CodeWisdom可信AI系统学术系列报告：第11期（谢肖飞，新加坡管理大学）

谢肖飞

内容简介

题目

迈向安全可信AI: 测试视角下的挑战与机遇

摘要

在当前AI技术快速发展的背景下，安全与可信性已成为AI系统落地应用的关键挑战。测试作为软件质量保障的重要手段，在AI系统的开发与部署中扮演了不可或缺的角色。然而，与传统软件不同，AI系统的复杂性、数据依赖性和非确定性为其测试过程带来了独特的挑战。

本报告将从AI系统测试的视角出发，探过如何通过全面的测试方法发现潜在问题、提升系统可靠性，共增强其在关键场景中的安全性。报告将分析当前测试技术在Al系统中的应用现状，剖析其不足之处、面临的技术难点以及研究机遇; 同时将展望未来测试技术在保障安全可信AI中的关键作用与潜在研究点。

报告人

谢肖飞，新加坡管理大学助理教授，曾任新加坡南洋理工大学校长博士后。2018年于天津大学获得博士学位，并获得CCF 优秀博士论文奖以及ACM 天津区优秀博士论文奖。目前致力于程序分析、软件测试以及人工智能安全测试等研究领域。其研究成果已经发表于人工智能、软件工程以及安全领域等顶级会议与期刊，其中四次获得ACM SIGSOFT 杰出论文奖 。

时间安排

❖

时间：

2024年12月16日 下午15:00-17:00

❖

地点：

复旦大学江湾校区交叉二号学科楼D3014-1