谷歌称在手机上运行人工智能模型会消耗巨大的内存

Google 希望 AI 模型能够 24/7 加载,因此 8GB RAM 可能不够。

罗恩·阿马迪奥 - 2024 年 3 月 30 日,凌晨 1:16

放大 /谷歌双子座标志。
谷歌

90

3 月初,谷歌发布了一个奇怪的公告,称其两款最新智能手机 Pixel 8 和 Pixel 8 Pro 中只有一款能够运行其最新的人工智能模型,称为“Google Gemini”。尽管规格非常相似,但较小的 Pixel 8 并未配备新的 AI 模型,该公司称原因是神秘的“硬件限制”。考虑到谷歌以人工智能为中心设计和销售 Pixel 8,然后又设计了一个名为“Gemini Nano”的以智能手机为中心的人工智能模型,但仍然无法让两者协同工作,这是一个奇怪的说法。

几周后,谷歌有所回溯。该公司在Pixel Phone 帮助论坛上宣布,较小的 Pixel 8 实际上在下一个大型季度 Android 版本(预计于 6 月发布)中配备 Gemini Nano。不过,有一个问题——虽然 Pixel 8 Pro 将 Gemini Nano 作为一项面向用户的功能,但在 Pixel 8 上,它只是“作为开发者选项”发布。这意味着您只能通过设置中隐藏的“开发者选项”菜单将其打开,大多数人都会错过它。

输入您的电子邮件以获取 Ars Technica 时事通讯

谷歌设备和服务软件副总裁 Seang Chau 在公司内部的“谷歌制造”播客中解释了这一决定。 “Pixel 8 Pro 具有 12GB RAM,是我们将 [Gemini Nano] 放置在设备上并看看我们能做什么的完美场所,”Chau 说。 “当我们以 Pixel 8 为例时,Pixel 8 的内存少了 4GB,要说‘好吧,我们也要在 Pixel 8 上启用它’并不那么容易。 ”Chau 表示,谷歌之所以感到不安,是因为该公司不想在较小的 Pixel 8 上“降低体验”,因为它只有 8GB RAM。

Chau 继续描述了在手机上拥有像 Gemini Nano 这样的大型语言模型是什么感觉,听起来需要很大的权衡。谷歌希望一些人工智能模型“驻留在内存中”,这样它们就总是加载到内存中。其中一项功能是“智能回复”,它会尝试自动生成文本回复。

Chau 在播客中表示:“智能回复功能要求模型驻留在 RAM 中,以便始终可用。您不想等待模型在 Gboard 回复上加载,因此我们将其保留在内存中。” ”因此,谷歌将 Gemini 驱动的智能回复保留在 Pixel 8 和 Pixel 8 Pro 的开发者标志后面。正常键盘设置中的“智能回复”选项不是由 Gemini 提供支持的。

更大的 Pixel 8 Pro 配备了最新的 AI 功能。较小的型号将其锁定在开发人员选项后面。
放大 /更大的 Pixel 8 Pro 配备了最新的 AI 功能。较小的型号将其锁定在开发人员选项后面。
谷歌

因此,与可以在使用时加载和卸载的应用程序不同,运行像 Gemini Nano 这样的应用程序可能意味着永久丢失明显的一大块系统内存。 Android 手机 8GB RAM 的基准未来可能需要再次提高。我们看到的手机最高标配是24GB RAM,而更大的旗舰通常有 12GB 或 16GB RAM,所以这当然是可行的。

谷歌的 Gemini Nano 型号也搭载在 Galaxy S24 系列上,基本型号也有 8GB RAM。当谷歌最初指出 Pixel 8 的硬件限制导致该功能缺失时,其解释令人困惑——如果基本型号 S24 可以运行该功能,那么 Pixel 8 也应该可以。不过,这完全取决于您愿意在应用程序的可用内存方面做出多少权衡。 Chau 表示,该团队“仍在进行系统健康验证,因为即使你是开发人员,你也可能想每天使用你的手机。”

然而,房间里的大象是,作为用户,我什至不知道我是否想要在我的手机上使用 Gemini Nano。我们正处于生成式人工智能炒作周期的顶峰,谷歌如此大力推动人工智能有其自身的内部原因(股票市场)。虽然访问 ChatGPT 并向其提问可能很有用,但这只是一个应用程序。实际上有用的操作系统级生成式人工智能功能非常少。我真的不需要键盘来自动生成回复。如果它只是要耗尽应用程序可以使用的大量 RAM,我可能想将其关闭。

在收到来自 Google PR 的更多数据后,这篇文章于 3 月 30 日进行了更新。谷歌告诉我们,Pixel 8 或 Pixel 8 Pro 目前都不会将 Gemini 保留在内存中,除非您打开开发者标志。这意味着默认情况下,这两款设备的智能回复功能都不是由 Gemini 提供支持的。

  • 7
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值