概述(感谢hidataplus的共享共建,才有今天的分享_)
本文主要是安装atlas ranger,一个是做数据治理,血缘关系。 一个是权限管理。
好好..年前接触ambari,网上资料都是入门级,直接安装hdfs yarn hive hbase 等等。把atlas ranger给忽略了。
后来才知道,原来大伙都玩不起。。开个玩笑哈。ambari建议我们先安装,自然有大卡的经验在那里。
所以本文中规中矩的来,不急着装hive hbae kafka 之类。
本文目的:为HDP 3.3.2.0的推广,接个力 atlas ranger
接前文总规划HDP3.3.2.0-002实践试范,展开第三章
三、扩展 host && atlas(kafak solr hbase) ranger(solr)(扩到6台)
3.1 扩展主机
跟上文一样步骤。。。看图免说啰。。。
扩展了slave节点后就把非master服务移到slave节点吧。。
3.2 移动zookeeper
mabari.tssj.com -> 123 124 125
zk 加3减1
slave125.tssj.com同样操作。。
再把ambari.tssj.com zk停了,删掉
3.3 移动datanodes
datanode 加3减1
3.3.1 添加 datanode到新节点
3.3.2 启动
3.3.3 rebalance
3.3.4 停了ambari.tssj.com
3.3.5 删掉
危险动作,再次提醒
可能需要重启namenode
3.4 移动nodeManagers
nm 加3减1
3.4.1 扩展
3.4.2 启动
3.4.3 停止
3.4.4 删掉
危险动作,再次提醒
3.5 扩展solr组件
第一次装时,就应该一并装好。又扩一次,失策了
3.5.1 添加
master.tssj.com
metrics.tssj.com
3.5.2 重启组件
3.6 也重启了 zk yarn
3.7 添加组件
终于入正题了。。
3.7.1 hbase 添加属性
phoenix.schema.isNamespaceMappingEnabled : true
phoenix.schema.mapSystemTablesToNamespace :true
3.7.2 atlas 密码 Admin12345
3.7.3 ranger 密码 Admin12345
3.7.3.1 ranger 数据库
sudo -u postgres psql
CREATE DATABASE ranger;
CREATE USER rangeradmin WITH PASSWORD ‘ranger_123’;
GRANT ALL PRIVILEGES ON DATABASE ranger TO rangeradmin;
\connect ranger;
CREATE SCHEMA ranger AUTHORIZATION rangeradmin;
ALTER SCHEMA ranger OWNER TO rangeradmin;
ALTER ROLE rangeradmin SET search_path to ‘ranger’, ‘public’;
3.7.3.2 重启 pg
sudo -u postgres /usr/bin/pg_ctl restart -D /var/lib/pgsql/data -m fast
ambari-server setup --jdbc-db=postgres --jdbc-driver=/usr/lib/ambari-server/postgresql-42.2.2.jar
3.7.3.3 rangerkms 数据库
sudo -u postgres psql
CREATE DATABASE rangerkms;
CREATE USER rangerkms WITH PASSWORD ‘rangerkms_123’;
GRANT ALL PRIVILEGES ON DATABASE rangerkms TO rangerkms;
\connect rangerkms;
CREATE SCHEMA rangerkms AUTHORIZATION rangerkms;
ALTER SCHEMA rangerkms OWNER TO rangerkms;
ALTER ROLE rangerkms SET search_path to ‘rangerkms’, ‘public’;
3.8 fix bug:
3.8.1 ranger-admin
(hbase 2.5.5新增的jar。3.3.2.0-002版中被我发现。由hidataplus提供的修复方案,验证是通过的)
cp /usr/hdp/3.3.2.0-002/hbase/lib/opentelemetry-* /usr/hdp/3.3.2.0-002/ranger-admin/ews/webapp/WEB-INF/classes/ranger-plugins/hbase/
chown -R ranger:ranger /usr/hdp/3.3.2.0-002/ranger-admin/ews/webapp/WEB-INF/classes/ranger-plugins/hbase/opentelemetry-*
3.8.2 ranger 添加 hbase Policy
(这个算补丁吧,默认配置没有这项,会影响atlas启动,建议hidataplus把它加入默认配置,这样更加丝滑)
3.8.3 atlas
hdp3.1是这样配置的:slave123.tssj.com:2181/infra-solr,slave124.tssj.com:2181/infra-solr,slave125.tssj.com:2181/infra-solr
但在hdp3.3里不适用。应该是组件升级不兼容所致。
要改为这样才正常:slave123.tssj.com:2181,slave124.tssj.com:2181,slave125.tssj.com:2181/infra-solr
也建议hidataplus把默认配置变更下,这样更加丝滑
3.9 正常进入。。。
总结:这文开始内容有点多了,文字描述少了点。要等完成所有草稿复盘时补了。建议大家按目录结构去看。有经历的人看来应该还是简单的。