谷歌双子座人工智能争议、谷歌开源 Gemma 模型

谷歌道歉

谷歌就其双子座人工智能工具在生成历史图像时出现的不准确之处发表了道歉声明，因为有批评称该工具将白人历史人物和群体不准确地描绘成了有色人种。引起争议的原因是，当提示生成特定白人人物或群体（如美国开国元勋或纳粹时期的德国士兵）的图像时，该工具往往会生成有色人种的图像。许多用户都能生成如上图所示的输出结果，导致谷歌在 X 上发布了如下声明：

不久之后，谷歌暂停了通过该工具生成人类的功能，并发布了博文 “双子座图像生成出错了。我们会做得更好”。他们在文中指出：

当我们在 Gemini 中创建此功能时，我们对其进行了调整，以确保它不会陷入我们过去在图像生成技术中看到的一些陷阱，例如创建暴力或色情图片，或描述真人。由于我们的用户来自世界各地，我们希望它能为每个人提供良好的服务。
…
但是，如果您向双子座提示特定类型的人物图片，例如 "教室里的黑人教师 "或 “带着狗的白人兽医”，或者特定文化或历史背景下的人物，您绝对会得到准确反映您所要求的内容的回复。
那么，哪里出了问题？简而言之，有两点。首先，我们为确保双子座显示一系列人而进行的调整未能考虑到明显不应该显示一系列人的情况。其次，随着时间的推移，模型变得比我们预期的更加谨慎，完全拒绝回答某些提示–错误地将一些非常平淡的提示解释为敏感。
这两点导致模型在某些情况下过度补偿，而在另一些情况下则过度保守，从而产生了令人尴尬和错误的图像。

谷歌开源 Gemma 人工智能模型，进一步深入开源领域

谷歌推出新一代轻量级先进开放模型 Gemma，旨在帮助开发人员和研究人员负责任地构建人工智能。Gemma 模型源自与 Gemini 模型相同的技术，由谷歌 DeepMind 和其他谷歌团队开发，有两种大小–2B 和 7B–预训练和指令调整变体。谷歌还推出了负责任的生成式人工智能工具包，并为 JAX、PyTorch 和 TensorFlow 等主要框架提供全面支持。Gemma 模型针对各种人工智能硬件平台（包括英伟达™（NVIDIA®）GPU 和谷歌云 TPU）的性能进行了优化，旨在实现安全可靠的使用。该代码在 Apache 许可和模型权重最低使用条款下发布。

中国初创企业月影人工智能公司融资 10 亿美元

中国人工智能初创企业月神人工智能公司（Moonshot AI）在由阿里巴巴集团控股公司和风险投资公司洪山领投的一轮融资中成功募集到超过 10 亿美元的资金。这标志着自 2022 年 11 月 ChatGPT 发布以来，中国人工智能初创企业获得的最大单笔融资。月影人工智能由清华大学毕业生杨志林创立，于10月推出了智能聊天机器人Kimi Chat，该机器人基于月影自主研发的大语言模型（LLM），能够在上下文窗口中处理多达20万个汉字。本轮融资凸显了中国大陆对生成式人工智能初创企业的持续浓厚兴趣，2023 年上半年，中国大陆对此类企业的投资居全球首位。

---

关注公众号：程序员危机，了解更多信息