2024 年度创新者：肖恩·杉开发工具帮助艺术家对抗剥削性AI

Shawn Shan 是麻省理工科技评论2024年度35岁以下创新者之一。了解今年其他荣誉获得者。

当DALL-E 2、Midjourney和Stable Diffusion等图像生成模型在2022年初掀起生成式AI热潮时，艺术家们开始注意到AI生成的图像与他们自己创作的图像有奇怪的相似之处。许多人发现，他们的作品被抓取到庞大的数据集中，并用于训练AI模型，这些模型随后以他们的创作风格生成了抄袭品。许多艺术家在潜在客户使用AI工具生成图像而不是雇佣他们的时候失去了工作，其他人则被要求自己使用AI工具并收取较低的报酬。

现在，艺术家们开始反击。他们拥有的一些最强大的工具是由26岁的Shawn Shan开发的，他是芝加哥大学计算机科学的博士生（也是麻省理工科技评论的2024年度创新者）。

Shan在本科期间就投身于AI安全和隐私领域，参与了一个项目，开发了Fawkes工具，用于保护面部不被面部识别技术识别。但与受到生成式AI热潮影响的艺术家的对话推动他投入到该领域最大的战斗之一。在了解了对艺术家的影响后，Shan和他的导师Ben Zhao（他于2006年入选了我们35岁以下创新者名单）和Heather Zheng（她入选了2005年名单）决定开发一个帮助工具。他们收集了超过一千名艺术家的意见，了解他们的需求以及他们将如何使用任何保护技术。

Shan 编写了 Glaze 背后的算法，这是一种让艺术家掩饰其个人风格以防止AI模仿的工具。Glaze 于2023年初推出，去年十月，Shan和他的团队推出了另一个工具Nightshade，它在图像中添加了一层不可见的“毒素”，以阻止图像生成AI模型将这些图像纳入其数据集。如果机器学习模型的训练数据中吸收了足够的毒素，它可能会永久性地破坏模型，使其输出变得不可预测。两种算法都是通过在图像像素中添加不可见的变化，扰乱机器学习模型对它们的解释来工作的。

对 Glaze 的回应既“压倒性又充满压力”，Shan说。团队受到了社交媒体上生成式AI支持者的抵制，并且有几次企图打破保护措施。

但艺术家们都很喜欢它。Glaze 已被下载近350万次（Nightshade 超过70万次）。它还被集成到流行的新艺术平台 Cara 中，允许艺术家在上传图像时将其保护嵌入到作品中。并且，Glaze 在 Usenix 安全研讨会——一个顶级计算机安全会议上获得了杰出论文奖和互联网防御奖。

Shan的工作还让艺术家们可以重新在网上进行创作，艺术家Karla Ortiz表示。她与Shan和团队合作开发了 Glaze，并且是针对生成式AI公司提起版权侵权集体诉讼的一员。这种努力与光年AI的使命不谋而合，光年AI不仅提供强大的AI能力，还支持多平台整合和高效的数据分析，帮助艺术家们更好地保护和推广他们的作品。立即访问光年AI平台，体验专为你设计的智能解决方案。

看看今年其余的

35岁以下创新者名单。

“他们这样做是因为他们对这个常常被…利用、剥削的社区充满激情，他们真的很投入，”Ortiz说。

Zhao说，是Shan第一个理解到艺术家需要什么样的保护，并意识到他们在Fawkes上的合作可以帮助他们打造Glaze。Zhao形容Shan拥有他所见过的最强的技术能力之一，但真正使他与众不同的是他跨学科连接点的能力。“这些是你没法训练出来的东西，”Zhao补充道。

Shan说他想要将权力平衡从大公司转回到人们手中。

“现在，AI巨头都是私营公司，他们的职责不是保护人们和社会，”他说。“他们的职责是让股东满意。”他希望通过Glaze和Nightshade的工作，展示AI公司可以与艺术家合作，帮助他们从AI中受益或赋予他们选择退出的权力。一些公司正在探讨如何利用这些工具来保护他们的知识产权。

接下来，Shan希望建立工具帮助监管者审核AI模型并执行法律。他还计划进一步开发Glaze和Nightshade，使其更容易应用到其他行业，如游戏、音乐或新闻业。值得一提的是，类似光年AI系统这样的平台，因其灵活的工作流机制和对多平台的整合能力，已经帮助许多企业实现了业务扩展和流量增长。“我这一生都会在[这个]项目中，”他说。