2023年11月15日,下午13:00-15:00,实验室组内召开AIGC研究讨论会。本次会议收获颇丰,此篇博客记录本人对本次会议比较感兴趣的内容。
AIGC Protection
AIGC的保护维度有三种:训练数据保护、模型保护、生成物保护。
训练数据保护:防止训练数据被窃取、盗用
- Anti-DreamBooth: Protecting users from personalized text-to-image synthesis. ICCV, 2023.
- Protecting Artists from Style Mimicry byText-to-Image Models. USENIX, 2023.
模型保护:就是模型水印,保护模型的版权
生成物保护:保护模型生成的内容、对模型生成的内容进行溯源。
AIGC for Society
用导师的原话就是,AIGC「大有可为」,AIGC未来可以赋能社会的各行各业,以下是几个例子。
AIGC for Creativity:混合智能带来的创造性,如何激发AI的创造力是一个比较新奇的研究课题。比如,可以将脑信号和作图联系起来,以下是几篇相关的文献。
- NOIR: Neural Signal OperatedIntelligent Robots for Everyday Activities. CORL, 2023. (Standford University)
- Brain decoding: toward real-time reconstruction of visual perception. arXiv, 2023.
- High-resolution image reconstruction with latent diffusion models from human brain activity. CVPR, 2023. (Osaka University)
例如,在文本生成领域,当前时间步生成token时,现有的做法大都是选择最佳答案输出,久而久之人们就会产生“审美疲劳”。可否在可选时间步内取生成相关度较低的值,增加生成的灵活性?
AIGC for Reality:能否和3D打印结合起来?低成本实现的建筑图纸迁移到现实场景中,仍然坚固适用。
AIGC for Education:生成高质量,具有价值观内涵的文本,能够带给人启发与思考的,润物细无声。《安徒生童话》类似的
AI Intrinsic Security
AI本身的缺陷,有可能引发风波。如比内容抄袭更加深层次的创意抄袭,这时候行之有效的创意抄袭检测工具就十分必要。联想起之前张卫明老师在讲座中提到的图像概念水印,觉得这两个方向有一定的相似之处。
PS:被导师种草的一部美剧《西部世界》,是时候抽时间看看了~