又翻车了！谷歌急于手动删除搜索中的奇怪AI答案｜TodayAI

谷歌公司近日确认，正在“迅速采取行动”删除一些AI工具的奇怪回应。社交媒体上充斥着谷歌新AI概览产品（AI Overview）说出奇怪话语的例子，从告诉用户在披萨上涂胶水到建议他们吃石头。这次混乱的AI发布导致谷歌不得不手动禁用某些搜索结果的AI概览，因为许多搞笑的网络热梗被发布，这也是为什么用户在社交网络上发布内容后不久就看到这些内容消失的原因。

这一情况令人费解，因为谷歌已经测试AI概览一年多了。该功能于2023年5月作为搜索生成体验（Search Generative Experience）在测试版中推出。首席执行官Sundar Pichai表示，在这段时间内，公司处理了超过十亿次查询。但Pichai也提到，谷歌在同一时间内将提供AI答案的成本降低了80%，“这主要是由于硬件、工程和技术突破。”然而，这种优化可能过早发生，技术尚未完全准备好。

“一家曾以最前沿技术和高质量产品著称的公司，现在却因低质量输出而闻名，这些输出还成为了网络热梗。”一位不愿透露姓名的AI创始人表示。

谷歌继续声称，其AI概览产品主要向用户输出“高质量信息”。发言人Meghann Farnsworth在一封电子邮件中表示：“我们看到的许多例子都是不常见的查询，我们也看到了被篡改或无法再现的例子。”她还确认，公司正在“迅速采取行动”删除某些查询的AI概览，“在适用的内容政策下，并利用这些例子来开发我们系统的更广泛改进，其中一些已经开始推出。”

纽约大学神经科学荣誉教授兼AI专家Gary Marcus指出，许多AI公司正在“销售梦想”，声称这项技术将从80%正确率提升到100%。Marcus表示，实现最初的80%相对简单，因为它涉及到大量人类数据的近似，但最后的20%极具挑战性。事实上，Marcus认为最后的20%可能是最难的。

“你实际上需要进行一些推理来决定：这件事是否可信？这个来源是否合法？你需要像人类事实核查员那样做一些事情，这实际上可能需要人工通用智能，”Marcus解释道。他和Meta的AI负责人Yann LeCun都同意，目前驱动谷歌的Gemini和OpenAI的GPT-4等AI系统的大型语言模型不会是创造人工通用智能（AGI）的工具。

谷歌目前处于一个艰难的局面。微软在谷歌之前就通过Satya Nadella著名的“我们让他们跳舞”言论大举进军AI，OpenAI据报道正在开发自己的搜索引擎，一家新的AI搜索初创公司已经价值10亿美元，而只想要最佳体验的年轻一代用户正在转向TikTok。公司显然感受到了竞争的压力，而这种压力导致了混乱的AI发布。

Marcus指出，2022年Meta发布了一个名为Galactica的AI系统，不久后就被撤下，因为它告诉人们吃玻璃等问题。这听起来很熟悉。谷歌对AI概览有宏伟的计划，目前的功能只是公司上周宣布的内容的一小部分。复杂查询的多步推理，生成AI组织的结果页面的能力，Google Lens中的视频搜索——这些都是谷歌的雄心所在。但现在，公司声誉取决于能否把基本的事情做好，而目前的情况并不乐观。

“这些模型本质上无法对自己的工作进行理智检查，这正是这个行业被咬到的地方，”Marcus总结道。