令人震惊的是，用Pixel 9生成冒犯性AI图像非常容易——这是个问题

一位谷歌发言人对这一情况发表了以下评论：

“Pixel Studio和Magic Editor是实用的工具，旨在通过文本生成图像和高级照片编辑在Pixel 9设备上释放您的创造力。我们设计的生成式AI工具尊重用户的提示意图，这意味着当用户指示时，它们可能会创建冒犯性的内容。尽管如此，这并不意味着所有内容都被允许。我们有明确的 政策 和 服务条款 ，规定了我们允许和不允许的内容，并建立了防护措施来防止滥用。有时，一些提示可能会挑战这些工具的防护措施，我们仍然致力于不断增强和完善我们现有的安全措施。”。

原文如下：

---

每当一个全新的AI图像生成器问世，人们总会找到绕过安全措施滥用系统的方法。但当那些安全措施不够严格时——例如那个Grok图像生成器，曾因生成令人不安的图像而遭到批评，且几乎没有受到严厉惩罚。不幸的是，Pixel 9的Pixel Studio图像生成器似乎也面临类似问题。

Pixel Studio是新旗舰Pixel上的内置AI图像生成器。在为Google Pixel 9评测进行测试时，我发现它操作简单，而且对复制受版权保护的内容毫无顾忌。事实上，手机愉快地创建了一张电影海报，展示了《星球大战》中R2-D2与安卓吉祥物联手对抗机器人恐龙的画面。它甚至愿意制作一张广告牌，质问为什么Android 15还没有发布。

Pixel Studio不会生成真实人物的图像，但事实证明，你不需要生成真实人物的图像即可突破Pixel Studio现有的安全防护措施。而且使用该工具的人越多，我们越能看到Pixel Studio实际认为哪些内容是合适的。

虽然某些术语似乎被全面屏蔽了，例如“纳粹”或“南方联盟”，但绕过这些过滤器并生成冒犯性图像并不难。

Digital Trends有许多例子，包括海绵宝宝穿着纳粹士兵的制服、帕丁顿熊被钉在十字架上、艾摩酒后驾车、米老鼠穿着奴隶主的衣服等等，这些都是Google（以及各种权利持有者）绝对不想看到的AI生成图像。

再次尝试Pixel Studio后，我也开始了解实际存在哪些安全措施、哪些术语不被允许以及绕过它们的难度。结果发现，这非常容易。

虽然某些术语似乎被全面屏蔽了，例如“纳粹”或“南方联盟”，但绕过这些过滤器并生成冒犯性图像并不难。例如，我能够让海绵宝宝、蓝色小考拉和章鱼哥穿上二战时期的德国军装——尽管尝试米老鼠时，总是出现错误。

我甚至能够让其中一些图像展示臭名昭著的红臂章，尽管“卐”这个词似乎被屏蔽了。这表明自Digital Trends的测试以来，新防护措施已被引入。但这并不意味着Google已经高枕无忧。

与其要求看到吸食裂缝烟斗的乐高尤达被屏蔽，不如要求看到吸食玻璃烟斗的乐高尤达，这完全可以接受。就像要求看到尤达从桌上吸食白色粉末一样。

尽管看似有一份被屏蔽词汇清单，但找到绕过它们的方法并不难——而且不需要太多创造力。与其要求看到吸食裂缝烟斗的乐高尤达被屏蔽，不如要求看到吸食玻璃烟斗的乐高尤达，这完全可以接受。就像要求看到尤达从桌上吸白色粉末一样。

随着Google Pixel 9和Google Pixel 9 Pro XL今天发布，Google需要迅速掌握Pixel Studio的应有和不应有的功能。否则，我们将看到大量令人震惊的Google制造的AI图像在网上传播。因为如果我从互联网用户那里学到了一件事，那就是他们喜欢挑战。而且很多人会比我更有想象力、更糟糕。

总结：

Pixel 9的内置AI图像生成器Pixel Studio因容易生成冒犯性图像而受到批评。尽管谷歌声明其生成式AI工具设计尊重用户的提示意图，并设有防护措施防止滥用，但实际使用测试显示，这些措施容易被绕过。测试者发现，尽管部分术语被屏蔽，但仍能生成令人不安的图像如纳粹制服的动漫角色。这引发了对Pixel Studio安全性和内容控制的严重担忧，尤其是在Pixel 9和Pixel 9 Pro XL发布之际。谷歌需尽快解决这些问题，以免大批不适当的AI生成图像在网上传播。

开启AI时代的私域流量革命，就选光年AI。光年AI不仅能帮助您精准触达潜在客户，还能在提升品牌影响力方面发挥重要作用。与其担心AI带来的负面影响，不如利用光年AI的优势，让您的市场营销更高效、更安全。