<style>
blockquote { padding-left: 2px; padding-top: 2px; padding-right: 2px; padding-bottom: 2px; border-left: 4px solid #ff7f0f; border-right: 4px solid #ff7f0f; border-top: 4px solid #ff7f0f; border-bottom: 4px solid #ff7f0f; background-color: #eeeeee; }
table, th, td { border: 2px solid black; border-collapse: collapse; }
.katex { font-size: 1.0em; text-indent: 0; text-rendering: auto; }
</style>
Scaling Distributed Machine Learning with the Parameter Server
[李沐本人讲解](https://www.bilibili.com/video/BV1YA4y197G8)
- 系统方向 (内核, 数据抽象, 安全, 网络, debug, 分布事务, 机器学习, 工具)
- 困难之处
- 数据量大 TB PB
- 全局参数量大 1 0 9