Hadoop
炼数成器
bystudying com
展开
-
ZooKeeper的选举机制
1)半数机制(Paxos 协议):集群中半数以上机器存活,集群可用。所以zookeeper适合装在奇数台机器上。2)Zookeeper虽然在配置文件中并没有指定master和slave。但是,zookeeper工作时,是有一个节点为leader,其他则为follower,Leader是通过内部的选举机制临时产生的3)以一个简单的例子来说明整个选举的过程。假设有五台服务器组成的zookeep...原创 2020-12-31 22:48:00 · 1071 阅读 · 0 评论 -
flume:Unhandled error java.lang.NoSuchMethodError: org.apache.flume.Context.get
urationProvider.java:154)] Unhandled errorjava.lang.NoSuchMethodError: org.apache.flume.Context.getSubProperties(Ljava/lang/String;)Lcom/google/common/collect/ImmutableMap; at org.apache.flume.channel.ChannelProcessor.configureInterceptors(ChannelProcess原创 2021-05-13 19:06:01 · 1598 阅读 · 0 评论 -
新版azkaban4.0编译安装教程
由于官方没有提供安装包所以需要下载源码,按照本文安装可以完美运行解压wget https://github.com/azkaban/azkaban/archive/refs/tags/4.0.0.tar.gz tar -zxvf 4.0.0.tar.gz -C /data/software/cd azkaban-4.0.0 没有安装git和gradlew的话需要先安装 https://gradle.org/releases/yum -y updateyum -y install gi原创 2021-05-13 12:27:13 · 2445 阅读 · 4 评论 -
Flume参数优化
1.Source增加Source个数(使用Tair Dir Source时可增加FileGroups个数)可以增大Source的读取数据的能力。例如:当某一个目录产生的文件过多时需要将这个文件目录拆分成多个文件目录,同时配置好多个Source 以保证Source有足够的能力获取到新产生的数据。batchSize参数决定Source一次批量运输到Channel的event条数,适当调大这...原创 2020-12-31 22:43:00 · 1213 阅读 · 0 评论 -
hadoop服役新节点和退役旧节点步骤
1)节点上线操作:当要新上线数据节点的时候,需要把数据节点的名字追加在 dfs.hosts 文件中(1)关闭新增节点的防火墙(2)在 NameNode 节点的 hosts 文件中加入新增数据节点的 hostname(3)在每个新增数据节点的 hosts 文件中加入 NameNode 的 hostname(4)在 NameNode 节点上增加新增节点的 SSH 免密码登录的操作(5)在...原创 2020-12-31 22:49:00 · 1284 阅读 · 0 评论 -
万字整理 最新主流大数据技术分类大全(持续更新)
目前绝大多数企业正在使用的技术,大部分都是基于Apache协议开源框架,因为有些框架有多种分类方式,而且篇幅有限,只做简要介绍,仅供参考调研(截止今年目前已总结80多个),本文大约7000字,阅读需完要20分钟。原创 2021-03-22 10:17:00 · 7174 阅读 · 0 评论
分享