上一页 1 ··· 4 5 6 7 8 9 10 11 12 下一页
摘要: flink的事务之两阶段提交 场景描述: 两阶段提交(two-phase commit, 2PC)是最基础的分布式一致性协议,应用广泛。a56爆大奖在线娱乐来介绍它的相关细节以及它在Flink中的典型应用场景。。 简介: 2PC 在分布式系统中,为了让a56爆大奖在线娱乐节点能够感知其他所有节点的事务执行情况,需要a56爆大奖在线娱乐们引入一个中心 阅读全文
posted @ 2020-12-03 20:53 shan_zhayidian 阅读(3325) 评论(0) 推荐(0) 编辑
摘要: Linux命令--nc (测试服务器端口是否打开) ##参数 想要连接到某处: nc [-options] hostname port[s] [ports] …绑定端口等待连接: nc -l port [-options] [hostname] [port] -g<网关>:设置路由器跃程通信网关,最 阅读全文
posted @ 2020-12-01 20:05 shan_zhayidian 阅读(9361) 评论(0) 推荐(0) 编辑
摘要: Hadoop fs | hdfs dfs 命令分类本地文件 -> HDFS -copyFromLocal 将本地文件数据拷贝到hdfs -moveFromLocal 将本地文件数据移动到hdfs,成功后本地数据会删除 -appendToFile 追加一个文件到已经存在的文件末尾 -put 将本地数据 阅读全文
posted @ 2020-12-01 15:11 shan_zhayidian 阅读(123) 评论(0) 推荐(0) 编辑
摘要: 1.1. 常见问题 l 现象:hive中的mr只能执行一次,如果执行第二次就会报这个错误; l 解决方案 n Yarn-site.xml;不要配置ha(高可用) <?xml version="1.0"?> <configuration> <!-- 配置yarn --> <property> <nam 阅读全文
posted @ 2020-11-27 10:47 shan_zhayidian 阅读(121) 评论(0) 推荐(0) 编辑
摘要: 首先启动 zookeeper : bin/zkServer.sh restart 启动zookeeper以后查看是否启动成功 : bin/zkServer.sh status 在启 NameNode 和 DataNode 守护进程。sbin/start-all.sh hive服务器启动命令:启动 : 阅读全文
posted @ 2020-11-27 10:43 shan_zhayidian 阅读(3416) 评论(0) 推荐(0) 编辑
摘要: 首先还是修改flink安装目录的conf目录下flink-conf.yaml文件,找到如下的三个配置,把原本的注释放开,然后配置自己的hdfs地址和zookeeper地址。 需要注意的是,a56爆大奖在线娱乐这里的hdfs是之前的ha集群,mycluster是a56爆大奖在线娱乐的hdfs的集群名,至于后边的内容会在hdfs中创建路径 阅读全文
posted @ 2020-11-26 17:38 shan_zhayidian 阅读(1940) 评论(0) 推荐(0) 编辑
摘要: 50070:HDFSwebUI的端口号 8485:journalnode默认的端口号 9000:非高可用访问数rpc端口 8020:高可用访问数据rpc 8088:yarn的webUI的端口号 8080:master的webUI,Tomcat的端口号 7077:spark基于standalone的提 阅读全文
posted @ 2020-11-26 17:30 shan_zhayidian 阅读(3825) 评论(0) 推荐(0) 编辑
摘要: 使用API时,先引入maven依赖 <dependency> <groupId>org.mongodb</groupId> <artifactId>mongo-java-driver</artifactId> <version>3.11.1</version> </dependency> 创建连接 阅读全文
posted @ 2020-11-25 15:58 shan_zhayidian 阅读(261) 评论(0) 推荐(0) 编辑
摘要: 设置在source和channel之间的插件式组件,source接收的事件,在写入channel之前,连接器都可以进行转换或者删除,a56爆大奖在线娱乐拦截器只能同时处理一个source接收的事件。 timestemp interceptor--时间戳拦截器 host interceptor--主机拦截器 stat 阅读全文
posted @ 2020-11-21 14:29 shan_zhayidian 阅读(111) 评论(0) 推荐(0) 编辑
摘要: 一、source 1、avro source 侦听Avro端口并从外部Avro客户端流接收事件。 当与另一个(上一跳)Flume代理上的内置Avro Sink配对时,它可以创建分层集合拓扑。 channels – type – The component type name, needs to be 阅读全文
posted @ 2020-11-21 14:18 shan_zhayidian 阅读(652) 评论(0) 推荐(0) 编辑
上一页 1 ··· 4 5 6 7 8 9 10 11 12 下一页