五年谷歌ML Infra生涯，我学到最重要的3个教训

近期，ML/AI Infra行业的发展引发了业内人士的热烈讨论。其中，硅谷创业公司Bluesky创始人Mingsheng Hong分享了他在这一领域的心路历程，总结了ML Infra发展的经验教训。他本人此前曾在Google的Data Infra工作，而后转向ML Infra，2022年初，他和Zheng Shao一起创立Bluesky Data （getbluesky.io），再度回归Data Infra。

以下是他的讲述，OneFlow社区做了不改变原意的编译。

撰文｜Mingsheng Hong

翻译｜周亚坤、张雨珊

1

从Data Infra到ML Infra

2017年，我在Google建立了一个全新的列存储索引，并且把所有的核心商业分析工作负载（比如AdWords和Display Ads）都移到了这个新系统里（但迁移过程本身也有几百个步骤，很复杂）。

我花了两个季度的时间来确保生产的稳定性（从来没有掉线过，考虑到这是存储格式的迁移，也算是个大工程了）。在这期间，我还带领团队让列存储在新一代系统Napa和F1 Lightning中能正常运作。

一天，我在Google Brain发现了一个由Chris Lattner发起的新的TensorFlow项目，将一个编译器+运行时方法应用于构建ML Infra。我很感兴趣，不仅仅因为Chris本人（LLVM、Swift等项目的负责人）的号召力，还因为我认为SQL查询优化器和存储/执行引擎是一个专用的编译器/运行时系统，这个领域我已经研究了十年。

我很好奇构建Data Infra的哪些经验可以应用到ML Infra上，这两者也都可以从通用编译器/运行时上学到一些东西。