今年，70% 的 AI 创业公司死掉！他们却越来越好

趋动科技的技术总监、TGO 鲲鹏会（北京）学员张增金

风口和风险，往往一线之隔。K 哥看到一份咨询公司的报告更有感触，该报告显示，今年 70%的 AI 创业公司，将在喧闹声中死掉。这不是危言耸听，K 哥认识的不少 AI 领域的创业者要么因为大把烧钱，而无以为继，要么因为难以商业化，正陷入迷茫。但我的朋友，趋动科技的技术总监、TGO 鲲鹏会（北京）学员张增金（以下简称：Jim）却是个例外。相反，他非常乐观地告诉 K 哥，趋动科技作为 AI 领域中的“卖水者”，业务正变得越来越好。他的说法让我充满好奇，于是便有了这次对 Jim 总的深度访问，让我们一起走进 Jim，走近他背后的 “卖水”公司。

外企技术老兵，掘金 AI 赛道

---

Jim 的职业生涯始于 2002 年，始于华大基因。那时的华大，还只是一家创业型企业，在那段使用 IBM 大型机和 SGI 的老旧 UNIX 机器、用 Perl 语言进行生物信息研究的岁月里，点燃了 Jim 对技术孜孜探索的热情，这种强烈的求知欲，直接贯穿了 Jim 后面的整个职业生涯。

离开华大基因后，Jim 又先后加入了 IBM、赛门铁克两家国际大厂。在著名外企的工作经历，不但让他感受到了作为技术人员，参与研发某些“全球爆款”产品的光荣感，还“沉浸式”地体验了国外大厂的工程师文化和更具成长性的职场氛围。

在赛门铁克的时候，Jim 当时的 Boss 曾有意让他这位技术人员，而不是让行政助理来做一份部门同事的通讯录，目的就是考察 Jim 如何对待“交付成果”。这些“考验”，让 Jim 从中明白即使一个极为简单的任务，用心去做和敷衍了事，也会产生明显不同的效果，也让他养成了做任何事要尽力做到最好、所有的交付都要尽量超越对方预期的工作态度。

2007 年，Jim 加入了 VMware 中国研发中心，成为最早的员工之一。在 VMware 的 8 年时间里，Jim 不仅积累了丰富的技术经验，对如何快速迭代产品、如何交付世界一流产品，有了更深刻的体会和理解，同时也经历了自己从技术岗到管理岗的关键蜕变。

2021 年，Jim 加入了专注于软件定义 AI 算力的独角兽企业，趋动科技。这是一家以“降低算力成本”为使命的创新企业。在这一赛道，不论是团队规模，还是技术力量，趋动科技都是全球最领先的存在。值得一提的是，正是在趋动科技，Jim 开始和 TGO 结缘，并成为 TGO 鲲鹏会的一员。在 Jim 看来，在 TGO 不仅可以与来自各大公司的技术主管、CTO 甚至 CEO 们一起研究技术问题，探讨行业热点，还可以分享个人生活中的点点滴滴。是一个既能开拓视野，促进成长，又能结交朋友、感受温暖的友好平台。

软件定义 AI 算力：做 AI 赛道卖水人

---

美国西部大开发时期，“淘金热”席卷全球，世界各地的掘金者，疯狂地加入到淘金队伍中来。但最后这些人当中真淘到真金、获得泼天富贵的人并没有多少，而另一群为淘金者卖铲子、卖饮水、卖牛仔裤的人，却赚得盆满钵满。如今火热的 AI 赛道，同样涌进了世界各地的创业者，大家都在巨额烧钱和难以变现的双重压力之下，苦苦支撑。但趋动科技却能逆势起飞，越来越壮大，不得不说，这和他们的创新基因以及精准定位，有着密不可分的关系。

1、大神云集的创始人团队

据 Jim 介绍，趋动科技成立于 2019 年，创始人团队都是计算机科学领域的大咖。CEO 王鲲，是中科大计算机系博士，曾在 IBM 中国研究院，微软亚太研发中心担任要职，后来还担任 Dell EMC 中国研究院院长。CTO 陈飞博士、SVP 邹懋博士，都曾在 IBM 中国研究院、Dell EMC 中国研究院等国际最牛的科研机构从事过研发工作，都是全球计算机体系结构、GPU 和 FPGA 虚拟化等领域，最顶尖的大神级人物。

创始人团队的“基因”，很大程度上决定了企业的“基因”。Jim 认为，如此“高配”的创始人背景，不仅塑造了趋动科技注重技术驱动、注重工程师文化的企业氛围，也注定公司会在科技层面上带来颠覆式的创新和贡献。

2、GPU 池化技术的突破

在对话中，Jim 总透露了一组数据：从国际上来讲，GPU 平均利用率约为 10~30%；而国内用户的利用率普遍更低，不少银行、运营商，包括一些大型央企、互联网企业，其利用率甚至只有个位数。换句话说，一枚售价 1 万美元的 GPU 芯片，其中 9000 多美元是浪费的。显而易见，帮助企业提高 GPU 利用率，已经成了 AI 领域最有潜力的新风口之一。也是在这一背景下，趋动科技把自己定位为致力于 AI 算力资源池化、用软件定义 AI 算力技术的领导厂商。

为了给大家进一步“科普”池化技术，Jim 特意把虚拟化和池化做了对比。GPU 的虚拟化，更多的是把一张卡切分成多个小卡，再在这些小卡上去跑业务，通过这种模式来提升卡的分配率、利用率。而 GPU 的池化，则是在虚拟化的基础上，通过软件定义的方式，实现硬件的解耦，使得 GPU 资源可以像网络资源一样被灵活调用。趋动科技正是在这方面做出了突破性创新，通过独有的技术，帮助企业将 GPU 资源集中管理，实现跨节点的资源调度。

3、颠覆性产品，OrionX（猎户座）

实现技术突破后，趋动科技于 2020 年发布了自己第一款 GPU 资源池化的商业软件——OrionX（猎户座）。Jim告诉K哥，这款产品的创新之处在于，它可以帮助用户通过网络调用远端GPU服务器上的算力，无论是通过TCP还是IB网络，都能实现高效的资源调配。

另外，OrionX 还能真正让用户“像使用水电一样”，按需使用 AI 算力，类似于云计算服务的“即用即付”模式。这种创新可以帮助客户根据实际使用情况，动态分配和释放算力资源，极大地提升了整个算力资源池的利用率和管理灵活度，最大化发挥出每张 GPU 卡的价值。

此外，OrionX 还支持物理机、虚拟机、容器等多种业务环境，并能在不中断运行的前提下，将本地节点或其他服务器节点上的任务，从一个 GPU 迁移到另一个 GPU，实现 AI 算力的热迁移。这些方面，都是趋动科技独有或遥遥领先的功能。

据 Jim 总介绍，截至目前，趋动科技已经积累了 200 多家企业级大客户，这些客户对趋动科技技术和产品的信任及使用，正是对趋动科技技术创新和认可的最好证明。

 专注一件事：榨干 GPU 的每一分算力

---

通过 Jim 总的介绍，相信很多朋友都已经明白，趋动科技之所以能在 AI 领域逆风茁壮，一个很重要的原因，就是它的高度聚焦和专注。趋动科技从成立之初，就专注做一件事：从用户需求出发，榨干 GPU 的每一分算力。Jim 总又从多个场景，为我们具体介绍了趋动科技是如何把这件事做到“极致”的。

1、开发场景下的应用

Jim 举了一个开发场景中最常遇到的例子，在项目推进过程中，开发者经常遇到资源（GPU）申请周期长、分配不灵活一类的问题，从而导致开发者无所适从，工作效率大大降低。趋动科技的软件定义 AI 算力技术，允许开发者在代码中直接声明所需的 GPU 资源，实现资源的按需调用，这种"GPU as Code"的模式，极为有效地提高了开发场景中资源分配的敏捷性。

趋动科技一个上海的客户，就是通过趋动的技术，让开发者自主管理 GPU 资源，从而帮助运维团队不再频繁手动分配资源，在大大提高开发效率的同时，也极大减轻了运维人员的压力和负担。

2、训练场景下的应用

在训练场景中，企业经常需要对大模型进行微调，这种情况往往需要多张 GPU 支持。而趋动的技术却能帮助用户在进行训练时，无需关心物理 GPU 的具体位置，将所有的资源调度工作都交给软件自动完成，不仅减少了资源碎片，缩短了排队时间，还大大提高了训练任务的执行效率。

3、推理场景下的应用

推理场景中，趋动科技利用强大的细颗粒度切分能力，让多个业务同时在一张物理 GPU 上运行，既确保了算力，又保障了显存的隔离性与安全性。

另外，通过趋动的超分技术，企业还可以把 GPU 的算力和显存利用率提升至更高的水平。Jim 告诉 K 哥，上海一家保险公司就是使用这一技术，让原本只能运行单个 OCR 业务的 GPU，同时运行两个业务，业务通量提升 1.8 倍。

此外，热迁移技术也是趋动科技在推理场景中的另一利器。它能够在不中断业务的前提下，实现业务在不同 GPU 上的迁移。从而帮助企业避免因硬件故障而中断业务，同时也增强了运维环节在检测、维护硬件时的主动性和高效性。

4、训推一体场景下的应用

趋动科技独有的技术，在训推一体场景下同样显示了巨大价值。能够在同一硬件上混合部署训练和推理任务，并通过优先级的设定，在不影响现有业务的前提下，智能调度“低优先级任务”填充 GPU 的剩余算力，从而让硬件利用率最大化。据 Jim 总介绍，很多客户用了趋动的技术后，算力得到 4 倍以上的提升，人效也提高了 50%以上，让客户有了肉眼可见的“高收益”和“获得感”。

在和 Jim 总的沟通过程中，他谈到了杰弗里·摩尔的名作《跨越鸿沟》，刚好这本书也是 K 哥最喜欢的著作之一。我记得这本书里有这样一句名言“成功的关键不是专注于技术，而是专注于客户要完成的工作。”通过今天对 Jim 总的访谈，让 K 哥更深刻地感受到，趋动科技之所以能在“一将功成万骨枯”的 AI 市场中，成为逆势飞翔的“幸运儿”，就在于他们更好地践行了《跨越鸿沟》里的这句话。他们不仅是新技术的布道者，更是新用户的赋能者。跨越了客户痛点需求和预期被满足的鸿沟，也就意味着跨越了企业死与生的鸿沟。祝福 Jim 和趋动科技，希望他们能跨越更多鸿沟，实现更多突破，为更多企业赋能。

                                     关于 TGO 鲲鹏会

---

TGO 鲲鹏会是极客邦科技旗下科技领导者同侪学习平台，学员由具有技术背景的 CEO、CTO、技术 VP、架构师等组成，共计超 2000 位 ，在北京、上海、深圳、广州、杭州、成都、南京、厦门、武汉、苏州、台北、硅谷、新加坡等地区定期举办学习活动。TGO 鲲鹏会采用了“学员共建”的组织形式，希望通过“共建、自治”的方式维护各城市的健康发展，为学员提供必要的服务，帮助学员个人更好地学习和成长，助力学员企业之间更好地合作与交流。加入 TGO 鲲鹏会，全方位提升自身价值，成为卓越科技领导者！