人工智能发展如火如荼,近期的chatGPT,圈内圈外人玩得不亦乐乎,本人试了几次不能访问,没有亲自玩一下,有些遗憾。但chatGPT背后的开源框架Ray的原始论文可以试着解读一下,分享给大家,供AI学习者及架构师们参考。论文链接:https://www.usenix.org/system/files/osdi18-moritz.pdf
翻译不当,请大家不吝指正。
Ray:一种新兴AI应用程序的分布式框架
摘要
下一代的AI应用程序应该能够持续不断地与周围环境交互,且从这些交互中学习。这些应用程序在性能和灵活性方面,都带来了新的更严格的系统需求。在这篇文章中,我们考虑到这些新需求,并展示了能够解决这些问题的解决方案Ray分布式系统.Ray实现了一个统一接口,既可以表达并行任务模式task-parallel,也可以表达基于动作的模式actor-based计算。这些计算是由一个单独的动态执行引擎支持的。为了满足这些需求,Ray采用了一个分布式调度器和一个分布式和容错仓库来管理系统的控制状态。在实验中,我们演示了每秒超过180万的任务,比当前现有的几种加强学习的应用程序的特殊系统更好的表现。
介绍
动机和需求
编程和计算模型
架构
评估
相关工作
结论