【上海AI Lab】大模型安全可信团队实习\联培博士\全职\博后招聘(校招和社招)

上海人工智能实验室安全团队专注于研究大语言模型、多模态大模型、智能体、具身智能的可信和安全，致力于从理解和提升角度推动人工智能向善发展。如果你对可信推理、安全攻防、对齐、可解释性等技术充满热情，或是对人工智能未来的涌现能力和潜在风险抱有深切的责任感，欢迎加入大模型安全团队。团队研究成果显著，多篇成果发表在顶级会议上，如CVPR Best Paper Candidate, ICLR Oral, ACL杰出论文等。

坐标

上海市徐汇区国际传媒港/北京理想大厦

时间

每周实习四天以上，至少六个月，一年以上者优先

岗位职责(满足任意一项即可)

1. 负责大语言模型、多模态大模型和文生图大模型的安全可信相关研究，解释和监控大模型的推理逻辑，对模型的reasoning能力进行分析和改进。

2. 核心参与深入研究大语言模型、多模态大模型和文生图大模型和人类价值观对齐的问题，包括内对齐、外对齐、自对齐等，和团队合作开发RLHF, DPO, GRPO等强化学习技术，以及对前沿强化学习路线研究。

3. 核心参与深入研究模型身份识别AI生成内容鉴伪等问题，包括模型指纹，水印和AI生成文本，图片和视频检测，团队合作开发大模型检测和擦除技术；

4. 核心参与深入研究智能体的安全可信问题，包括终端智能体，电脑智能体和具身智能体等，和团队合作开发评测工具和技术，优化智能体场景下的安全可信问题。

任职要求

1. 本科及以上学历，博士学历优先，计算机科学、电子信息、自动化或机器人相关专业背景优先，一年及以上工作经验者优先；

2. 具备扎实的机器学习和深度学习基础知识和算法实践能力，了解大模型的设计和训练流程；

3. 精通强化学习知识体系，熟悉主流强化学习算法如PPO、DPO等。

4. 熟悉常用的深度学习框架和工具，具备良好的编程能力，熟练使用Python、C/C++等编程语言；

5. 在RSS、CoRL、ICRA、IROS机器人会议上或CVPR、NeurIPS、ICLR等人工智能会议有出色发表记录者优先。

加分项

1. 在信息学奥赛、ACM 中获奖；

2. 有较强的数学功底；

3. 发表过相关论文。

欢迎优秀的本科生私戳，优秀者有机会成为联培博士
有意者请发邮件至：drliu96@sjtu.edu.cn

---

备注：昵称-学校/公司-方向/会议(eg.ACL)，进入技术/投稿群

id：DLNLPer，记得备注呦