使用 Ambari 安装 HDP 集群

请先参考 CentOs 7 安装 apache-ambari 获得一台 ambari 服务器。

HDP 并不是 hadoop 的辅音简称,而是 Hortonworks 的产品 Hortonworks Data Platform 的简称,是包含 Hadoop 在内的一揽子解决方案。

前置要求:

3-4台 CentOS 7 机器,其中一台机器必须安装 Ambari 服务。教程参考centos 7 安装 apache-ambari。安装 master 和 slave 的节点机器,内存最好不要小于 5G。

安装部件:

如前所述,此次安装包含如下服务(请按需安装):

服务版本说明
HDFS2.7.3Apache Hadoop 分布式文件系统
YARN + MapReduce22.7.3Apache Hadoop 下一代 MapReduce(YARN)
Tez0.7.0Tez 是运行在 YARN 之上的下一代 Hadoop 查询处理框架
Hive1.2.1000支持即席查询与大数据量分析和存储管理服务的数据仓库系统
HBase1.1.2非关系型分布式数据库,包括 Phoenix,一个为低延迟应用开发的高性能 sql 扩展
Pig0.16.0分析大数据量的脚本平台
Sqoop1.4.6在 Apache Hadoop 和 其它结构化的数据存储位置例如关系数据库 之间批量传递数据的工具
Oozie4.2.0Apache Hadoop 的工作引擎之一,另一个是 Azkaban。负责工作流的协调和执行。会按照一个可选的 Oozie Web 客户端,依赖因此也会安装 ExtJS 库
Zookeeper3.4.6高可用的分布式协调服务
Falcon0.10.0数据管理和处理平台
Storm1.1.0Apache Hadoop 流处理框架Storm 介绍
Flume1.5.2收集,聚合和移动大量流式数据到 HDFS 的分布式服务
Accumulo1.7.0高可靠,性能和伸缩性的 Key/Value 存储各种KV工具对比
Ambari Infra0.1.0Ambari 管理的部件所使用的核心共享服务
Ambari Metrics0.1.0Ambari 集群性能监控工具
Atlas0.8.0元数据管理平台
Kafka1.0.0高吞吐量的分布式消息系统
Knox0.12.0一个 rest 类型的认证系统,可提供单点登录认证
Log Search(未安装)0.5.0日志聚合,分析,可视化
SmartSense1.4.5.2.6.2.2-1一款不得不装的 Hortonworks 增值服务,集群诊断功能
Spark1.6.3快速的大规模数据处理引擎
Spark22.3.0spark spark2 对比
Zeppelin NoteBook0.7.3Web 界面的数据分析系统,可以使用 sql 和 scala 等
Druid0.10.1快速的列存储分布式系统
Mahout0.9.0Apache 开源机器学习算法库,提供协作筛选(CF,推荐算法),聚类(clustering),分类(classification)实现
Slider0.92.0部署,管理与监控 YARN 上的应用程序
Superset0.15.0Airbnb 的开源可视化的数据平台
安装注意事项
确认主机 Confirm Hosts 阶段,即使你的 openssl 是最新的,还是可能会报如下错误:
NetUtil.py:96 EOF occured in violation of protocol (_ssl.c:579)
和
SSLError: Failed to connect.Please check openssl library version.

此时需要在每一台节点上加入以下配置:

vi /etc/ambari-agent/conf/ambari-agent.ini

[security] ## 在此部分加入以下一行
force_https_protocol=PROTOCOL_TLSv1_2

在公司,不方便上图,回家继续更新。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值