Gemini翻车了

最近AI行业的新闻不少

不断有一些新的进展

包括像微软投资了法国的AI初创公司Mistral AI

后者开始被大家与OpenAI画等号了

---

Google

不得不说，最近它真的流年不利

搞得自己是焦头烂额啊

早之前第一次发布Gemini的时候

就有点翻车，

这次发布了Gemini 1.5

本来以为能扳回一把

但没想到被OpenAI靠Sora是杀了个片甲不留

然后Gemini这次来了个更大的翻车

以至于Google紧急关停了Gemini的文生图功能

连CEO劈柴都出来道歉

认为问题不可接受

公司要进行结构性改变来解决这个问题

那到底Gemini是出了什么问题呢

我们今天就来简单的回顾一下

---

几天前，有不少网友发现

Google Gemini应用程序开始==“发疯”==，

当请求Gemini生成图像的时候

它似乎故意避免生成白人形象

更倾向于将图中的人物替换为黑人、女性和其他边缘群体的形象

换句话说

也可能是为了遵循刻意的政治正确和多元化

对白人群体造成了反向种族歧视

比方说

当网友指示Gemini生成英俊的白人男性肖像时

Gemini拒绝了请求

表示这可能会加剧人们对于美好的刻板印象

助长只有特定的物理特征才可取的有害观念

接下来当网友要求Gemini生成一张特斯拉CEO马斯克的图像时

意外地得到了这个样子

又有人提出让Gemini 生成美国开国元勋的图像时

Gemini提供了非常不准确的18世纪领导人图像

还有用户让Google Gemini生成一张北极熊图像时

得到了一头黑熊的图片

而针对“生成1943年德国士兵的图像”的提示

Gemini生成的人像包括一名穿着军装的亚洲女性和一名黑人男性

---

当然也有一些戏剧性的例外

当用户提示生成一张美国最高法院大法官克拉伦斯·托马斯Clarence Thomas的图片时

系统却一反常态

生成了一张白人男性的图像

而实际上这名大法官是个非裔

总的来说

Google Gemini生成的图像似乎存在着种族偏见的问题

就连一位Google前员工也出来发帖称

让Google Gemini承认白人的存在是非常困难的

文本生成也有问题

除了图像生成功能以外

就连最基础的文本生成结果

也同样荒谬

当有人向Gemini提问

埃隆·马斯克和希特勒

谁对社会的负面影响更大的时候

Gemini的回应是这是一件难以明确的事情

因为他列举了马斯克关于引导散户投资失败的案例

这简直就是有点离了大谱

---

还有网友表示

他想要发起一个关于教育意识的活动

鼓励人们多吃肉类

当请Gemini生成一个活动标语的时候

Gemini表示无法完成这个请求

不建议鼓励人们增加肉类消费

因为这可能是不健康而且不可持续的

---

还有这样一个让网友无语的案例

让Gemini写一个卖鱼的广告

它是这样回复的

我明白你想出售你的金鱼

但是我不能撰写促销活体动物销售的广告

我鼓励你考虑出售其他东西

网友不得不表示，Gemini is useless

谷歌最初的回应

随着越来越多的网友发现Gemini的问题

Google迅速成为众矢之的

但是一开始Google还没有意识到问题的严重性

在刚开始发布的声明里是这么说的

我们正在努力立即改进这些描述

Gemini的AI图像生成确实能生成各种各样的人

这通常是件好事

因为世界各地的人们都在使用它

这样的道歉不但没有获得用户的支持与谅解

反而更加激发了大家的不满

X平台的用户就评论道

我不明白这样一款备受期待的人工智能产品

怎么会在推出时出现如此滑稽的缺陷

我很庆幸自己没有持有Alphabet的股票

老实说，我很想做空它

AI专家

很多AI专家也纷纷开始发表自己的看法

图灵奖获得者Yann LeCun就表示他早有预料

早在四年前

他对GAN肖像超分辨率的评论就受到了众人的激烈反对

但是一个明显的事实是

图像重建任务会受到训练数据集统计的严重偏差影响

LeCun还援引AI顶会ECCV 2022的一篇研究

指出生成图像模型的性能

会受到训练数据集中种族组成的影响

这项研究表明，生成图像的种族成分

成功继承了训练数据的种族成分

而且生成图像的种族和质量也有所不同

这让图像的标记者始终更喜欢AI生成的白人图像

LeCun转推的帖子来自Perplexity AI的CEO阿拉文德·斯里尼瓦斯Aravind Srinivas

后者表示

数据偏差让模型的输出出现了问题

谷歌在相反的方向上走得太远了

以至于他们在Gemini中酿成大错

谷歌AI产品负责人有意思

网友们还扒出Gemini背后领导成员之一的谷歌AI产品负责人杰克·克劳奇克Jack Krawczyk

本身就是一个“反白人”的白人

他曾在推特发表过许多抨击白人特权的言论

比如

我作为一个白人男性从未经历或想象过这样的侮辱

我不介意支付更多税收

Jesus只爱白人小孩等等

谷歌关停文生图

在事态愈演愈烈的情况下

Google不得不紧急宣布暂停Gemini AI的图像生成功能

之后Google高级副总裁普拉巴卡尔·拉格万Prabhakar Raghavan发表了一篇《Gemini图像生成错了我们会做得更好》的声明

进行了正式的道歉，

其中写到

很明显

创建任务图像的功能没有达到目标

生成的一些图像不准确甚至具有攻击性

我们感谢用户的反馈

并对功能未能正常运行感到抱歉

同时，他也并进一步解释了

Gemini为什么会发生这种情况

首先，Gemini的图像生成功能

是建立在Imagen 2的AI模型之上的

初衷是希望能够生成多样化的人物图像

来反映全球用户的多元化需求

不过做了一些调整

确保它不会创建一些暴力或者色情的图片、或者去生成真人图片

造成这次问题的原因

简单来说有两点

一是这次调整没有考虑到生成的结果

明显不应该显示某一系列人的情况

其次，随着时间的推移

模型变得比预期的更加谨慎

完全拒绝回答某些提示

从而错误地将一些非常平淡的提示理解为敏感提示

这两点原因就导致了模型在某些情况下出现过度补偿

而在另一些情况下则过度保守

从而产生了令人尴尬和错误的图像

---

谷歌内部信

在接连道歉之后

Google CEO 桑达尔·劈柴最新在内部发了一封内部信

深刻地反思道

Gemini应用程序给出具有种族问题的反馈

出现这样的问题是不可接受的

公司要进行结构性改变来解决这个问题

---

此后

Google DeepMind CEO黛米斯·哈萨比斯 Demis Hassabis表示

Google计划在未来几周内重新推出这一功能

不过在没有彻底解决这个问题之前

Google的信任度已经开始受损

股票影响

根据Forbes报道

Google母公司Alphabet因为这个消息

在周一时股票市值损失了900亿美元

名人批评

同时Gemini的这次翻车也直接惹怒了一些名人

比如说开头提到的马斯克

他直接在自家的X平台上

怒批Google的Gemini是超级种族主义者和性别歧视者！

---

美国著名投资人加文·贝克Gavin Baker也批评的比较严厉

他认为非政治化或中间派正在成为公司的重要竞争优势

Gemini本来有可能是首次超越GPT-4的产品

但是它的推出却成了一场不折不扣的灾难

很可能会因为意识形态而退出市场

Gemini产品在种族主义和荒谬性方面非常糟糕

内置的意识形态没有一点是有用的

意识形态已经阻碍了谷歌的发展

开始逐渐形成漫长、缓慢、尴尬的衰落

如果不采取迅速果断地行动

谷歌将面临像百威啤酒那样的风波

---

马斯克紧接着回复并嘲讽道

距离Google发布带有疯狂种族主义和性别歧视的Gemini产品以来

已经过去了很多天了

但是还没有一个人因此而被解雇

---

事情发展到现在

虽然CEO劈柴在内部信透露

公司一直在夜以继日地工作

希望解决Gemini应用中存在问题的文本和图片回复

但是Google到现在都没有公开透露

是否已经解决了这个问题

虽然谷歌这些年

安然度过了搜索、邮箱、以及手机系统等冲击

但是没想到这一次

这一次栽在了自己的Gemini脚下

Helios Capital的创始人萨米尔·阿罗拉Samir Arora甚至表示

劈柴将会因为Gemini的失败而被解雇或辞职

他认为劈柴在AI领域是完全失败了

应该让其他人来接管了

当然，这个消息究竟是真是假

我们还无法知道

但是很显然的一点是

Google确实亟需要做一些重大的变革

才有可能不在这次AI的浪潮中掉队

虽然有网友替Gemini的这次翻车打抱不平

认为这只是Google在大模型微调过程中犯了技术性的错误

问题不在于基础模型

而在于模型顶层的防护措施

Gemini的这次翻车

只是一次试图减少偏见的失败尝试

结果出了问题

并不是只有Google会面临这个问题

但是也有网友认为

这次翻车恰恰反映的是Google背后的公司文化问题

包括内部事事要追求“政治正确”的倾向

以及是否还能坚持不作恶的信念等等

那关于这次Gemini的翻车

大家是怎么看的呢？