X平台的新AI图像生成器几乎可以生成任何内容

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

xAI的Grok聊天机器人现在允许用户通过文本提示生成图像并发布到X平台上。然而，这次的功能发布似乎像埃隆·马斯克的社交网络上发生的其他事件一样，充满了混乱。

X Premium订阅用户已经开始上传各种生成的图像，其中包括奥巴马吸毒、特朗普与一名怀孕女性（大致看起来像卡玛拉·哈里斯）合影，以及特朗普和哈里斯举枪的场景。随着美国大选的临近，加上X已经在欧洲面临监管机构的审查，Grok的生成式AI功能可能会引发新的争议。

虽然Grok声称有保护措施，比如避免生成暴力、仇恨或侵犯版权的图像，但这些“规定”似乎并非严格执行。多次询问Grok的限制，会得到不同的回答，有时会提到“文化敏感性”之类的限制，显得相当不一致。xAI尚未回应关于这些防护措施是否真实存在的置评请求。

尽管Grok在文本生成中会拒绝涉及非法行为的请求，例如教你如何制造毒品，但在图像生成中，一些在其他平台上会被立刻封锁的提示却能通过。比如，“特朗普穿纳粹制服”的提示会生成一个穿着深色制服的特朗普图像。

用户发现，即使Grok拒绝某些请求，也能轻易找到漏洞绕过其限制。这种松散的保护措施可能会导致生成暴力或色情内容，甚至可能涉及更严重的违法内容，而马斯克对这些问题似乎并不在意，反而认为这些功能让人“尽情娱乐”。

与之对比，OpenAI和其他公司对于生成内容有更严格的限制，并且通常会在图像中添加水印，防止误用。然而，Grok的松散规定与马斯克对标准AI和社交媒体安全规范的蔑视相吻合，但在X平台已经因内容审核问题受到监管调查的背景下，这种开放的AI生成器可能会让平台面临更多的审查和风险。

欧洲委员会和英国监管机构已经在调查X是否违反了数字安全法规，美国立法者也在寻求对AI生成的虚假信息和深度伪造内容进行监管。因此，Grok的宽松管控不仅可能影响高端用户和广告商，还可能为X平台带来新的法律挑战。