参会记录｜2022 人工智能安全学术研讨会参会总结

前言

2022年11月20日于上海市宝山区衡山北郊宾馆参加了一个由本实验室牵头的小范围学术会议，与会者均为AI安全领域研究人员，以下是导师发言要点总结，借此时刻勉励自己，做有价值的研究。

---

创新突破三大定位

• 从0到1 自然科学奖
• 从1到10 技术发明奖
• 从10到100 科技进步奖

科研出发点

• 做研究，要走到前面去。2001年和2022年两次诺贝尔化学奖得主卡尔·巴里·夏普莱斯（K. Barry Sharpless）。
• 不要做跟随式工作，要做不可替代性的研究，有自己的绝活，想到自己的定位和优势
• 不要假装做研究
• 不做增量型研究
• 爬起来到站起来
• 跨界要形成降维打击，不然就没必要跨界，因为已经是一片红海。

科研要具有前瞻性，迁移思维

• 图像质量的可信评价 → 社交网络可信评价
• 传统安全：数据裸奔 数据免疫
• 模型安全：神经网络后门，模型水印，投毒
• 模型哈希，模型检索，本质上是函数的函数，用模型去做模型
• 声东击西 虚晃一枪 用辅助隐写网络抵抗隐写分析，然后用另一个隐写网络做隐写
• 新概念，新问题，新应用场景，新功能
• 接下来，元宇宙安全❓

隐写时代

• 1.0 传统隐写
• 2.0 构造式隐写
• 3.0 功能性隐写（以网藏网）

多媒体安全时代

• 1.0 传统篡改
• 2.0 基于深度学习的攻防

认知安全与感知安全

• 感知 对应 快思维 对抗样本
• 认知 对应 慢思维 理论性 舆论引导，潜意识触发，诱导

实验室使命

• 带队伍
• 定方向
• 搭平台