混合AI是AI的未来？非也非也

有人判断混合AI是AI的趋势，依据是AI处理的重心正在向边缘转移，通过云端和端侧AI的协同工作，来优化AI计算的负载分配。

在这样的背景下，高通2023年发布了《混合AI是AI的未来》白皮书，打响了混合AI的第一炮。

那么，直击灵魂的问题来了，AI趋势那么多，混合AI真能代表未来吗？是大厂造概念还是一种全新的生产力出现了？我认为混合AI是一种新的思路，但不是一种大趋势。所谓趋势，要能看到众多厂商“趋之如骛”，要能展现出新的能力，还要有巨大的市场。目前看，混合AI都没有。

混合AI本质是啥？

本质是计算资源的分配，让云端与边缘终端协同处理AI计算负载，根据场景和需求灵活分配工作，即在一些场景下计算将主要以终端为中心，在必要时向云端分流任务。而在以云为中心的场景下，终端将根据自身能力，在可能的情况下从云端分担一些AI工作负载，以此来优化用户体验和资源利用。

有何优势？

计算资源分配更加合理了，优势自然也少不了。直观的有如下几个：

成本：将一些推理任务从云端转移到边缘端或终端处理，从而减轻云基础设施的压力，降低成本，促进生成式AI的可持续规模化发展。

能耗：与云端相比，边缘端和终端能够以较低能耗运行生成式AI模型，大量的数据不需要来回传输到云端进行处理，降低数据中心能耗。

可靠性和时延：在云服务器繁忙时，混合AI架构中边缘端和终端的AI处理更为可靠。当出现网络拥堵或无连接情况时，终端侧AI依然能够保障用户正常使用生成式AI应用，提供更佳的用户体验。

隐私和安全：混合AI支持在本地设备上处理信息和数据，避免在数据传输到云端的过程中暴露保密信息，能够更好地保护用户的隐私和安全。

个性化：终端侧AI能够在不牺牲用户隐私的前提下，根据本地设备数据创建用户画像，并随着时间推移进行学习和演进，为用户提供更为个性化的服务。

举个例子，目前全世界有数十亿台已部署或者具备AI能力的终端设备，这些终端设备能够独立，或者与云端协同，主动承担起相当大一部分计算负载，如果是智能手机、PC等设备生成文本或者图片，成本将会非常低，甚至没有成本。从这一点就不难发现，相比单一的云端AI，混合AI策略确实更有利于推动AI规模化发展。

落地应用前景如何？

这方面，可以说由生成式AI驱动的新一轮内容生成、搜索和生产力相关的领域都将因此收益，这在当前社会生产中就已可见端倪。

1. 智能手机的搜索和数字助手：在生成式AI的加持下，用户的搜索方式已经开始发生转变，同时随着对话功能的不断改进，智能手机有望真正成为用户的数字助手。

2. 笔记本电脑和pc的新生产力：生成式AI基于简单提示就能快速生成优质内容的能力正在推动生产力变革，通过后台运行的各类大模型，用户已经可以一键生成文稿或视频、进行数据分析或协同合作等。

3. 汽车的数字助手和自动驾驶：得益于人、车以及车辆周围环境相关数据所提供的信息，如今AI驱动的汽车座舱和数字助手能够为用户提供高度个性化的体验。

4. XR领域的3D内容创作和沉浸式体验：在生成式AI的赋能下，未来有可能普及3D内容创作，并实现真正的虚拟化身，这部分可以参考联想日前发布的3D科普视频。

5. 物联网运营效率和客户支持：目前，AI已经广泛应用于物联网的各垂直领域，包括零售、安全、能源、供应链和资产管理等。以零售超市为例，生成式AI可以基于商品信息、预算限制和家庭偏好等帮助顾客定制带有菜谱的菜单，根据时间和特殊假日帮助定制促销方案等。

哪些厂商在跟进？

行业大的趋势基本是由大厂推进的，一是，大厂有敏锐的触觉感知到技术演进，二是大厂有资本，即使趋势不是很明显，也能用钱砸出一条路来。

目前来看，高通是混合AI的主力军。2023年，高通发布的白皮书《混合 AI 是 AI 的未来》提到，AI 处理必须分布在云端和终端进行，才能实现 AI 的规模化扩展并发挥其最大潜能。为此，高通的切入方法是支持生态系统跨多品类终端开发并落地生成式AI用例、体验和领先产品，包括智能手机、下一代 PC、XR终端、汽车和机器人等。听起来好像也不是什么新的能力。

同样积极的还有英伟达，英伟达展示过多款AI应用，都与混合AI有关。比如，NVIDIA ACE，可以让游戏、应用中生成可以自然交互的虚拟数字人物。换句话说就是让游戏的NPC语言更加自然。再如，英伟达推出的聊天机器人Chat with RTX，与其他的聊天软件不同的是，这是一款可以本地部署的专属AI聊天机器人，借助加载的大语言模型能够实现与机器人之间的专属对话。

联想也是积极分子之一。联想发布过一支科普视频，视频通过UE5搭建了科幻感的场景。这其中用到的技术是其混合算力基础设施软件HIMP，在企业AI训练的感知、调度、加速、应用全链路过程中助力各行各业释放全部的算力。此外，联想还和英伟达合作，其混合解决方案已经针对运行 NVIDIA AI Enterprise软件进行了优化，以实现安全、受支持且稳定的生产级AI，现在还将为开发人员提供刚刚发布的NVIDIA微服务，包括 NVIDIA NIM 和 NeMo Retriever。

发展动力是什么？

是AIGC，当下的AIGC逐渐为个人所用，比如各类文字类大模型、文生视频大模型，正在成为企业、个人的工具。随之而来的是，全球智能手机市场也迎来了复苏，这代表着AI更加贴近终端，更加贴近人。

可以看到，上一部分几家企业也是在自己原有的优势能力上，进一步扩展到了AIGC带来的高计算的需求上。

结论：

混合AI只是AIGC之下自然而然产生的分支需求，“体量”不够大。而且，边缘侧、终端侧的计算不是什么新鲜事物，云计算更是老生常谈，两个组合在一起是物理组合，并不能产生化学“能量”。更重要的是，它没有给整个产业带来全新的价值，没有形成现象级的热度，有投入、投产出的企业很少。

所以，企业就这么一宣传，你就这么一听就完了。