CDH 和ambari之间的比较

目前啊,都知道,大数据集群管理方式分为手工方式(Apache hadoop)和工具方式(Ambari + hdp 和Cloudera Manger + CDH)

 

1 什么是CDH,ambari?

Apache Ambari是一种基于Web的工具,支持Apache Hadoop集群的供应、管理和监控。Ambari已支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeper、Sqoop和Hcatalog等。

Apache Ambari 支持HDFS、MapReduce、Hive、Pig、Hbase、Zookeper、Sqoop和Hcatalog等的集中管理。也是5个顶级hadoop管理工具之一。Ambari能够安装安全的(基于Kerberos)Hadoop集群,以此实现了对Hadoop 安全的支持,提供了基于角色的用户认证、授权和审计功能,并为用户管理集成了LDAP和Active Directory。

CDH简介 

  • Cloudera's Distribution, including Apache Hadoop
  • 是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建
  • 提供了Hadoop的核心
    – 可扩展存储
    – 分布式计算
  • 基于Web的用户界面

    

 

CDH的优点  

  • 版本划分清晰
  • 版本更新速度快
  • 支持Kerberos安全认证
  • 文档清晰
  • 支持多种安装方式(Cloudera Manager方式

 

2  为什么需要他们

  • 1000台服务器的集群,最少要花费多长时间来搭建好Hadoop集群,包括Hive、Hbase、Flume、Kafka、Spark等等
  • 只给你一天时间,完成以上工作?
  • 对于以上集群进行hadoop版本升级,你会选择什么升级方案,最少要花费多长时间?

  • 新版本的Hadoop,与Hive、Hbase、Flume、Kafka、Spark等等兼容?

大数据集群管理方式分为手工方式(Apache hadoop)和工具方式(Ambari + hdp 和Cloudera Manger + CDH)

   手工部署呢,需配置太多参数,但是,好理解其原理,建议初学这样做,能学到很多。该方式啊,均得由用户执行,细节太多,切当设计多个组件时,用户须自己解决组件间版本兼容问题。

   工具部署呢,比如Ambari或Cloudera Manger。(当前两大最主流的集群管理工具,前者是Hortonworks公司,后者是Cloudera公司)使用工具来,可以说是一键操作,难点都在工具Ambari或Cloudera Manger本身部署上。

 

 

             手工方式                 工具方式

难易度        难,几乎不可能成功              简单,易行

兼容性        自己解决组件兼容性问题            自动安装兼容组件

组件支持数      支持全部组件                 支持常用组件

优点         对组件和集群管理深刻              简单、容易、可行

缺点         太复杂,不可能成功              屏蔽太多细节,妨碍对组件理解

 

 

 

工具名                  市场占有率    所属机构     开源性   社区支持性    易用性、稳定性      

Cloudera Manger              高                   Cloudera        商用         不支持                易用、稳定            

Ambari             较高                 Hortonwork     开源     支持         较易用、较稳定     

 

 

 

 

 

 

CDH和Ambari相互比较

出版商:

hortonworks研发了Ambari和hdp的大数据分析集成平台
cloudera研发了cloudera manger和cdh大数据分析集成平台
稳定性:

cloudera相对来说比较稳定
ambari相对来说不稳定(页面打开速度慢)
资源消耗:

cloudera manager的server端Xmx是2G,agent是1G,但是有host monitor和service monitor总共大概1G
ambari的server端Xmx是2G,metric的ams和hbase的env大概也就是2G
集群重启:

cloudera支持滚动重启(hdfs需要设计成ha,才能滚动重启)
ambari支持滚动重启(hdfs需要设计成ha,才能滚动重启)
集群升级(一般来讲不要轻易升级集群):

cloudera不支持滚动升级服务
ambari支持滚动升级服务(这个是ambari的优点,hdfs必须是ha)
二次开发:

cloudera不支持
ambari支持
服务版本:

cloudera较老
ambari较新
服务集成性:

cloudera较弱
ambari较强,支持es、redis、presto、kylin等
体验效果:

cloudera好
ambari相对差
安装过程:

cloudera复杂
ambari简单
邮件报警:

cloudera支持不好
ambari支持很好
安装包:

cloudera是parcel包
ambari是rpm包
总结:

不要轻易升级组件版本

如果对集成性要求高,稳定性相对弱点的,可以选择ambari

如果对稳定性要求高,集成性相对弱点的,可以选择cloudera

 

 

 

 

 

 


 

 

 

 

 

 

   

  • 6
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
工作过程中撰写的部署文档,注释,文字说明详尽。 1.关于注册失败错误,查看log: ============= INFO 2017‐09‐21 10:52:33,435 security.py:178 ‐ Server certificate not exists, downloading INFO 2017‐09‐21 10:52:33,435 security.py:191 ‐ Downloading server cert from https://ambari‐test1.com:9440/cert/ca/ ERROR 2017‐09‐21 10:52:33,510 ServerAPI.py:137 ‐ POST https://ambari‐ test1.com:9441/api/v1/register failed. (SSLError(1, u'[SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:579)'),) ============ 1 2 3 4 5 6 这个错误是因为python‐2.7.5‐e58版本默认是使用ssl验证,为了解决这个问题需要关闭此验证 或者降级python版本 vi /etc/python/cert‐verification.cfg #修改的内容如下 verify=disable 第二种办法是更新openssl的版本(经测试,更新到1.1版本无效) 具体做法是 1.可以直接通过来在线更新来解决 yum upgrade openssl 2.编译源码 yum install gcc gcc‐c++ autoconf automake zlib zlib‐devel pcre‐devel #下载编译 源码需要的工具 cd /usr/local/src wget https://www.openssl.org/source/openssl‐1.0.2‐latest.tar.gz #下载源码包 tar ‐xzvf openssl‐1.0.2‐latest.tar.gz #解压 cd openssl‐1.0.2* ./config #检查配置 make && make install #编译并安装 mv /usr/bin/openssl /tmp/ #移除原有的openssl ln ‐s /usr/local/bin/openssl /usr/bin/openssl #建立软连接 注意,openssl所在目录请自行判断 注意,openssl: error while loading shared libraries: libssl.so.1.1 解决方法: 在root用户下执行: ln ‐s /usr/local/lib64/libssl.so.1.1 /usr/lib64/libssl.so.1.1  ln ‐s /usr/local/lib64/libcrypto.so.1.1 /usr/lib64/libcrypto.so.1.1  openssl version #查看openssl版本
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值