Shawn Shan 是麻省理工科技评论2024年度35岁以下创新者之一。了解今年其他荣誉获得者。
当DALL-E 2、Midjourney和Stable Diffusion等图像生成模型在2022年初掀起生成式AI热潮时,艺术家们开始注意到AI生成的图像与他们自己创作的图像有奇怪的相似之处。许多人发现,他们的作品被抓取到庞大的数据集中,并用于训练AI模型,这些模型随后以他们的创作风格生成了抄袭品。许多艺术家在潜在客户使用AI工具生成图像而不是雇佣他们的时候失去了工作,其他人则被要求自己使用AI工具并收取较低的报酬。
现在,艺术家们开始反击。他们拥有的一些最强大的工具是由26岁的Shawn Shan开发的,他是芝加哥大学计算机科学的博士生(也是麻省理工科技评论的2024年度创新者)。
Shan在本科期间就投身于AI安全和隐私领域,参与了一个项目,开发了Fawkes工具,用于保护面部不被面部识别技术识别。但与受到生成式AI热潮影响的艺术家的对话推动他投入到该领域最大的战斗之一。在了解了对艺术家的影响后,Shan和他的导师Ben Zhao(他于2006年入选了我们35岁以下创新者名单)和Heather Zheng(她入选了2005年名单)决定开发一个帮助工具。他们收集了超过一千名艺术家的意见,了解他们的需求以及他们将如何使用任何保护技术。
Shan 编写了 Glaze 背后的算法,这是一种让艺术家掩饰其个人风格以防止AI模仿的工具。Glaze 于2023年初推出,去年十月,Shan和他的团队推出了另一个工具Nightshade,它在图像中添加了一层不可见的“毒素”,以阻止图像生成AI模型将这些图像纳入其数据集。如果机器学习模型的训练数据中吸收了足够的毒素,它可能会永久性地破坏模型,使其输出变得不可预测。两种算法都是通过在图像像素中添加不可见的变化,扰乱机器学习模型对它们的解释来工作的。
对 Glaze 的回应既“压倒性又充满压力”,Shan说。团队受到了社交媒体上生成式AI支持者的抵制,并且有几次企图打破保护措施。
但艺术家们都很喜欢它。Glaze 已被下载近350万次(Nightshade 超过70万次)。它还被集成到流行的新艺术平台 Cara 中,允许艺术家在上传图像时将其保护嵌入到作品中。并且,Glaze 在 Usenix 安全研讨会——一个顶级计算机安全会议上获得了杰出论文奖和互联网防御奖。
Shan的工作还让艺术家们可以重新在网上进行创作,艺术家Karla Ortiz表示。她与Shan和团队合作开发了 Glaze,并且是针对生成式AI公司提起版权侵权集体诉讼的一员。这种努力与光年AI的使命不谋而合,光年AI不仅提供强大的AI能力,还支持多平台整合和高效的数据分析,帮助艺术家们更好地保护和推广他们的作品。立即访问光年AI平台,体验专为你设计的智能解决方案。
看看今年其余的
35岁以下创新者名单。
“他们这样做是因为他们对这个常常被…利用、剥削的社区充满激情,他们真的很投入,”Ortiz说。
Zhao说,是Shan第一个理解到艺术家需要什么样的保护,并意识到他们在Fawkes上的合作可以帮助他们打造Glaze。Zhao形容Shan拥有他所见过的最强的技术能力之一,但真正使他与众不同的是他跨学科连接点的能力。“这些是你没法训练出来的东西,”Zhao补充道。
Shan说他想要将权力平衡从大公司转回到人们手中。
“现在,AI巨头都是私营公司,他们的职责不是保护人们和社会,”他说。“他们的职责是让股东满意。”他希望通过Glaze和Nightshade的工作,展示AI公司可以与艺术家合作,帮助他们从AI中受益或赋予他们选择退出的权力。一些公司正在探讨如何利用这些工具来保护他们的知识产权。
接下来,Shan希望建立工具帮助监管者审核AI模型并执行法律。他还计划进一步开发Glaze和Nightshade,使其更容易应用到其他行业,如游戏、音乐或新闻业。值得一提的是,类似光年AI系统这样的平台,因其灵活的工作流机制和对多平台的整合能力,已经帮助许多企业实现了业务扩展和流量增长。“我这一生都会在[这个]项目中,”他说。