CDH添加kafka

安装 Kafka 组件 配置 Kafka parcel 包 在 Web 页面中,主机 -> Parcel  里面会列出当前集群以配置和分配的 parcel 包,目前只配置了 CDH5,Kafka 单独存在于其他 parcel 包中,所以需要单独加载 parcel ,然后分配到集群内各节点。 
 
Cloudera官方Kafka组件的parcel包下载地址为: http://archive.cloudera.com/kafka/parcels/latest/  
照旧下载 percel 文件,以及该文件的 sha1 串,然后重命名 ***.sha1 为 ***.sha 方可。
下载好以上两个文件后,放到 cm-server 节点的 /opt/cloudera/parcel-repo/ 目录下 
 
无需重启 server 守护进程,在页面即可在线刷新、分配、激活。
集群内安装 Kafka 服务    
这里需要确认和修改 2 个默认配置
  • 复制进程,默认为1,修改为 3(视业务量而定)
  • 分区数,默认分区数为 50,这里暂且保留。
  • 删除旧topic,默认打开,不做更改。
业务端口为 9092 。
配置 HDFS LZO 压缩 LZO 功能也是封装在单独的 parcel 包中,选择对应平台的包。 
下载地址为: http://archive-primary.cloudera.com/gplextras/parcels/latest/  
这里并没有直接的提供 sha 文件,所以需要查看 manifest.json 文件,找到对应 parcel 包的 hash 值,手动保存至本地文件即可。
下载 parcel 包及其 sha 文件,存放至 cm-server 的 /opt/cloudera/parcel-repo/ 目录下。 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值