谷歌称在手机上运行人工智能模型会消耗巨大的内存

Google 希望 AI 模型能够 24/7 加载，因此 8GB RAM 可能不够。

罗恩·阿马迪奥 - 2024 年 3 月 30 日，凌晨 1:16

放大 /谷歌双子座标志。

谷歌

90

3 月初，谷歌发布了一个奇怪的公告，称其两款最新智能手机 Pixel 8 和 Pixel 8 Pro 中只有一款能够运行其最新的人工智能模型，称为“Google Gemini”。尽管规格非常相似，但较小的 Pixel 8 并未配备新的 AI 模型，该公司称原因是神秘的“硬件限制”。考虑到谷歌以人工智能为中心设计和销售 Pixel 8，然后又设计了一个名为“Gemini Nano”的以智能手机为中心的人工智能模型，但仍然无法让两者协同工作，这是一个奇怪的说法。

几周后，谷歌有所回溯。该公司在Pixel Phone 帮助论坛上宣布，较小的 Pixel 8 实际上将在下一个大型季度 Android 版本（预计于 6 月发布）中配备 Gemini Nano。不过，有一个问题——虽然 Pixel 8 Pro 将 Gemini Nano 作为一项面向用户的功能，但在 Pixel 8 上，它只是“作为开发者选项”发布。这意味着您只能通过设置中隐藏的“开发者选项”菜单将其打开，大多数人都会错过它。

输入您的电子邮件以获取 Ars Technica 时事通讯

谷歌设备和服务软件副总裁 Seang Chau 在公司内部的“谷歌制造”播客中解释了这一决定。 “Pixel 8 Pro 具有 12GB RAM，是我们将 [Gemini Nano] 放置在设备上并看看我们能做什么的完美场所，”Chau 说。 “当我们以 Pixel 8 为例时，Pixel 8 的内存少了 4GB，要说‘好吧，我们也要在 Pixel 8 上启用它’并不那么容易。 ”Chau 表示，谷歌之所以感到不安，是因为该公司不想在较小的 Pixel 8 上“降低体验”，因为它只有 8GB RAM。

Chau 继续描述了在手机上拥有像 Gemini Nano 这样的大型语言模型是什么感觉，听起来需要很大的权衡。谷歌希望一些人工智能模型“驻留在内存中”，这样它们就总是加载到内存中。其中一项功能是“智能回复”，它会尝试自动生成文本回复。

Chau 在播客中表示：“智能回复功能要求模型驻留在 RAM 中，以便始终可用。您不想等待模型在 Gboard 回复上加载，因此我们将其保留在内存中。” ”因此，谷歌将 Gemini 驱动的智能回复保留在 Pixel 8 和 Pixel 8 Pro 的开发者标志后面。正常键盘设置中的“智能回复”选项不是由 Gemini 提供支持的。

放大 /更大的 Pixel 8 Pro 配备了最新的 AI 功能。较小的型号将其锁定在开发人员选项后面。
谷歌

因此，与可以在使用时加载和卸载的应用程序不同，运行像 Gemini Nano 这样的应用程序可能意味着永久丢失明显的一大块系统内存。 Android 手机 8GB RAM 的基准未来可能需要再次提高。我们看到的手机最高标配是24GB RAM，而更大的旗舰通常有 12GB 或 16GB RAM，所以这当然是可行的。

谷歌的 Gemini Nano 型号也搭载在 Galaxy S24 系列上，基本型号也有 8GB RAM。当谷歌最初指出 Pixel 8 的硬件限制导致该功能缺失时，其解释令人困惑——如果基本型号 S24 可以运行该功能，那么 Pixel 8 也应该可以。不过，这完全取决于您愿意在应用程序的可用内存方面做出多少权衡。 Chau 表示，该团队“仍在进行系统健康验证，因为即使你是开发人员，你也可能想每天使用你的手机。”

然而，房间里的大象是，作为用户，我什至不知道我是否想要在我的手机上使用 Gemini Nano。我们正处于生成式人工智能炒作周期的顶峰，谷歌如此大力推动人工智能有其自身的内部原因（股票市场）。虽然访问 ChatGPT 并向其提问可能很有用，但这只是一个应用程序。实际上有用的操作系统级生成式人工智能功能非常少。我真的不需要键盘来自动生成回复。如果它只是要耗尽应用程序可以使用的大量 RAM，我可能想将其关闭。

在收到来自 Google PR 的更多数据后，这篇文章于 3 月 30 日进行了更新。谷歌告诉我们，Pixel 8 或 Pixel 8 Pro 目前都不会将 Gemini 保留在内存中，除非您打开开发者标志。这意味着默认情况下，这两款设备的智能回复功能都不是由 Gemini 提供支持的。