hadoop生态圈

分布式文件系统:
HDFS(可计算资源仓库)、mooseFS、fastDFS+nginx(115网盘)、riak、GlusterFS(intel hbase发行版)

分布式爬虫:
Nutch、httpclient

计算框架:
MapReduce:
hadoop的mapreduce(依托于hadoop、适合于100T以上计算)
mongodb

DAG:
hadoop2的Tez框架(hive on hadoop2支持tez框架,TB以上)
spark:(依托于rdd,GB以上,窄依赖最佳)

Graph图计算:
Giraph、graphX(spark)
neo4j(不支持分布式)

MPI:
HAMA
openmpi

流计算:
storm、spark streaming(小批量流)

日志收集:
chukwa
flume
Scribe

数据导入:
Hiho, sqoop

newsql:
Pig, Hive、Phoenix
spark on sql-->前身是shark(处理java程序统计数据困难)
impala、drill

数据处理流:
oozie, Cascading

监控工具:
ganglia,nagos,zabbix,ambari

高一致性:
zookeeper、bookeeper

大表(大磁盘缓存、避免sql等运算出结果)(nosql):
hbase、Cassandra

k,v库(nosql):
redis、memcached、leveldb(SSD磁盘)

文档库(nosql):
couchdb、mongodb

简单的web框架:h5+node.js+mongodb

机器学习:
mahout、mlib(spark)、R(Rhadoop,Rspark)、weka


消息队列:
activemq、rabbitmq、qpid、kafka、hedwig,redis,memcacheq

ETL:
kettle

分布式搜索:
solr(web)、elasticsearch
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值