6# 账户密码 admin admin123
看到新导入的database 则证明历史元数据导入成功
2、集成HBase
=========
Atlas HBase hook与HBase master注册为协处理器。在检测到对HBase名称空间/表/列族的更改时,Atlas Hook过Kafka通知更新Atlas中的元数据。按照以下说明在HBase中设置Atlas Hook:
1# 编辑 hbase-site.xml
2cd /etc/hbase/conf
3vi hbase-site.xml
4
5# add for hbase regist atlas hook
6# design by liziba 2021/02/22
7
8 hbase.coprocessor.master.classes
9 org.apache.atlas.hbase.hook.HBaseAtlasCoprocessor
10
查看元数据
1# 切换到hadoop
2su - hadoop
3# 创建hbase table
4hbase shell
5
6create ‘t1’, ‘cf1’
再次查看元数据
2.1历史元数据导入
同样,HBase也会在Atlas上线之前早就上线了,所以需要同步历史上的元数据。
注意:一定要进入atlas用户,因为Atlas的Linux管理账户是atlas,其他账户下可能会报没有权限的错误。
1sudo su - atlas
2/usr/hdp/current/atlas-client/hook-bin/import-hbase.sh
3# 密码 admin admin123
再次查看元数据
3、集成Kafka
=========
3.1Bug规避
HDP3.1有一个Bug,安装Atlas时不会自动安装atlas-kafka-hook。
3.1.1 发现bug
1# 进入hook-bin目录
2cd /usr/hdp/current/atlas-client/hook-bin
可以看到并没有Kafka的import脚本。
然后再登录HDP yum源所在节点(安装Ambari时使用的Httpd)
1cd /var/www/html/HDP/centos7/3.1.4.0-315/atlas
2ls -l
上图中我们可以看到atlas-kafka插件包是提供了的,接下来可以看看该插件在Kakfa节点上是否安装。
登录任意Kafka节点:
1yum list atlas-metadata_3_1_4_0_315-kafka-plugin
并未安装atlas-metadata_3_1_4_0_315-kafka-plugin
结论 HDP-3.1.4.0中,Ambari安装Atlas时没有自动安装atlas-metadata_3_1_4_0_315-kafka-plugin,这是一个bug
3.1.2 规避bug
在 Kafka的任意Clien节点安装atlas-metadata_3_1_4_0_315-kafka-plugin: ambari-02 167
1sudo yum install -y atlas-metadata_3_1_4_0_315-kafka-plugin
安装完修改下执行权限
1sudo chown atlas:hadoop /usr/hdp/current/atlas-client/hook-bin/import-kafka.sh
2sudo chown atlas:hadoop /usr/hdp/current/atlas-client/logs/
3.1.2 集成原理与局限性
Atlas只提供一个批量导入元数据到Atlas的工具,原理是通过kafka.utils.ZkUtils获取Topic的元数据信息并写入Atlas。
Atlas没有提供Kafka Hook,所以不能实时采集Kafka的元数据,需要定期调度批量导入元数据的脚本。
3.1.3 历史元数据导入
Kafka可能在Atlas上线之前早就上线了,所以需要同步历史上的元数据
查看kakfa_topic 元数据 初始无元数据
1# 在安装kafka插件服务器执行初始化脚本
2su - atlas
3/usr/hdp/current/atlas-client/hook-bin/import-kafka.sh
再次查看元数据
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数初中级Android工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则近万的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Android移动开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Android开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!
如果你觉得这些内容对你有帮助,可以扫码获取!!(备注:Android)
最后
现在都说互联网寒冬,其实无非就是你上错了车,且穿的少(技能),要是你上对车,自身技术能力够强,公司换掉的代价大,怎么可能会被裁掉,都是淘汰末端的业务Curd而已!现如今市场上初级程序员泛滥,这套教程针对Android开发工程师1-6年的人员、正处于瓶颈期,想要年后突破自己涨薪的,进阶Android中高级、架构师对你更是如鱼得水!
为什么某些人会一直比你优秀,是因为他本身就很优秀还一直在持续努力变得更优秀,而你是不是还在满足于现状内心在窃喜!
Android架构师之路很漫长,一起共勉吧!
《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!
实无非就是你上错了车,且穿的少(技能),要是你上对车,自身技术能力够强,公司换掉的代价大,怎么可能会被裁掉,都是淘汰末端的业务Curd而已!现如今市场上初级程序员泛滥,这套教程针对Android开发工程师1-6年的人员、正处于瓶颈期,想要年后突破自己涨薪的,进阶Android中高级、架构师对你更是如鱼得水!
为什么某些人会一直比你优秀,是因为他本身就很优秀还一直在持续努力变得更优秀,而你是不是还在满足于现状内心在窃喜!
Android架构师之路很漫长,一起共勉吧!
《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!