近期百度将支撑核心搜索引擎的基础架构平台逐渐开源,包括:
1. 百度文件系统BFS(https://github.com/baidu/bfs)
一个支持跨集群、跨地域部署的实时分布式文件系统。
2. 分布式数据库Tera(https://github.com/baidu/tera)
存储万亿量级超链、网页的结构化数据库。
3. 集群操作系统Galaxy(https://github.com/baidu/galaxy)
数据中心级机器管理、资源调度系统。
4. 分布式协调服务Nexus(https://github.com/baidu/ins)
基于Raft协议实现的高性能分布式协调服务。
5. 分布式计算框架shuttle(https://github.com/baidu/shuttle)
基于Galaxy的MapReduce计算框架。
6. 网络通讯框架sofa-pbrpc(https://github.com/baidu/sofa-pbrpc)
基于protobuf的轻量级rpc框架。
【百度】近期开源的大数据处理平台“全家桶”
最新推荐文章于 2024-05-04 19:16:13 发布