Hadoop
Hadoop是一个能够对大量数据进行分布式处理的软件框架,主要用于大数据行业。
如果使用原生的ApacheHadoop,在工作中我总结出了如下痛点(部分):
1、集群规模很庞大时搭建Hadoop集群复杂度越来越高,工作量很大
2、规模很大的集群下升级Hadoop版本很费时费力
3、需要自己保证版本兼容,比如升级Hadoop版本后需要自己保证与Hive、Hbase等的兼容
4、安全性很低
CDH(大数据平台)
CDH是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的Apache Hadoop构建,全称Cloudera’s Distribution, including Apache Hadoop。
CDH提供了Hadoop的核心可扩展存储(HDFS)和分布式计算(MR),还提供了WEB页面进行管理、监控。
KUDU
可以看出这个新组件有两个特点:1)开源(免费,ASL 2.0);2)这是一个融合HDFS和HBase(提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统,支持横向扩展来增加计算和存储能力)的功能的新组件,具备介于两者之间的新存储组件
亮点:1)将不同组件结合起来的异构生态圈打通,使得数据、操作在一个圈内进行;2)将CPU、磁盘IO统一考量,便于资源的最优分配,尤其是未来CPU的计算资源成为瓶颈后;