斯隆奖获得者李博：从博弈论出发，和「偶像」并肩的感觉很好 | 青源专栏

智源社区

于 2022-09-08 12:00:11 发布

阅读量1k

点赞数 1

文章标签：大数据算法编程语言 python 神经网络

本文链接：https://blog.csdn.net/BAAIBeijing/article/details/126775107

版权

伊利诺伊大学厄巴纳-香槟分校助理教授李博分享了她的科研历程，从博弈论角度研究机器学习安全。她的工作涉及自动驾驶、医疗和网络安全等多个领域，通过博弈论分析攻防策略，提高模型的鲁棒性和安全性。李博的代表性研究包括物理世界攻击的案例，以及结合逻辑推理提升机器学习模型的可信度。她强调了理论与实践结合的重要性，特别是在解决AI安全问题中的应用。

摘要由CSDN通过智能技术生成

导读：在「STOP」路牌上贴图进行扰动，机器便无法在较远处正确识别路牌。这是李博团队展出在英国科技博物馆的工作，这一类工作关乎现实物理世界中的攻击，在自动驾驶、医疗，甚至日常网站上的恶意交易等领域均有应用。

为了启发下一代青年学者研究思路，激发科研灵感，智源社区推出青源学者访谈栏目。伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学系助理教授、麻省理工学院技术评论 MIT TR-35 、IJCAI计算机与思想奖、斯隆研究奖获得者，青源会会员李博介绍了她一路走来从同济大学，到赴美读博，再到UIUC任教的经历。深度学习方兴未艾之时，她在著名计算机科学家Yevgeniy Vorobeychik教授的指导下，从博弈论入手，开始研究机器学习安全。「到2013年，深度学习大火，之前积累的工作被越来越多的人认可，当时感觉非常高兴，这也是我个人的一个转折点。」

李博，伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机科学系助理教授。她曾荣获许多学术奖项，包括麻省理工学院技术评论 MIT TR-35 、Alfred P. Sloan 斯隆研究奖、NSF CAREER 奖，IJCAI Computers and Thought Award, Dean's Award for Excellence in Research, C.W. Gear Outstanding Junior Faculty Award，英特尔新星奖、赛门铁克研究实验室奖学金，并获得来自Amazon、Facebook、谷歌、英特尔和 IBM 等科技公司的学术研究奖。她的论文曾获多个顶级机器学习和安全会议的最佳论文奖；研究成果还被永久收藏于英国科技博物馆。她的研究侧重于可信机器学习、计算机安全、机器学习、隐私和博弈论的理论研究和实践分析。她曾设计多个鲁棒性机器学习算法及和隐私保护数据发布系统。她的工作曾被《自然》、《连线》、《财富》和《纽约时报》等主要媒体报道。

借深度学习之东风，走上博弈论的道路

Q：科研的理想是何时树立的？

A：小时候我自己喜欢读书，家长也有这方面的期望，我名字里的“博”字，就代表着父母希望我能比较博学。小时候，我课余时间除了练习钢琴和体操，剩下的时间一般就是看书，学习一些关于计算机、物理、数学的东西，觉得还蛮有意思。其实并没有某一个点让我觉得要当科学家，但是确实一直都还比较喜欢去了解不懂的东西好，学习新的东西，就这样慢慢一步一步走到了现在。

Q：物理和数学的基础对你的科研方向有怎样的影响？

A：高中时期物理老师很喜欢买不同的书作为考试奖励，我高中的时候一般都是年级第一，所以就有机会去选《时间简史》一类的书回来看，这对我帮助很大。我当时最喜欢的学科就是物理和数学，最不喜欢的应该是历史，因为有很多东西需要背。物理、数学，包括政治我都很喜欢，因为逻辑性比较强，需要去思考，哪怕不去背，也可以通过推理得到答案。我认为这些对我之后的研究和工作都有一定的帮助。当前工作的一个比较重要的点，就是如何把人的推理能力与机器学习数据驱动的模型相结合，使得它不容易被攻击。

Q：你是如何走上博弈论研究之路的？

A：我本科阶段开始做研究，写论文、读文献，去尝试理解什么是研究的原则，这些经历对我很有帮助。本科时期对AI安全产生了天然的兴趣，接触了很多计算机入侵、计算机安全这样的问题，也做了很多密码学的工作。读博的时候想做一些机器学习相关的工作，我的导师是Yevgeniy Vorobeychik教授，专注做博弈论。他鼓励我说，你可以做这两者的结合，即机器学习安全（machine learning+security），并从博弈论的角度去分析。另外博后时期，伯克利的宋晓东（Dawn Song）老师对我的影响也很大，她是中国的计算机安全教母，在安全界很有名。

起初，深度学习还没有发展起来，缺少深度学习的配合，机器学习安全这个方向还没有火起来。我从2011年开始做这个课题，到2013年，深度学习大火，之前积累的工作被越来越多的人认可，当时感觉非常高兴，这也是我个人的一个转折点。

AI安全的乐趣——对抗真实物理世界的攻击

Q：为什么选择AI安全这一领域？

A：我目前的研究兴趣，从理论上讲，主要是博弈论和AI的安全与隐私。此外，从实际应用的角度，这当中的方法论有不同的应用。比如我们有与自动驾驶公司的合作，研究自动驾驶的安全性；然后有跟医疗的合作，对医疗影像的分析研究；也有跟eBay，亚马逊这些公司合作，研究关于他们自己的数据，比如分析有没有恶意交易等等。

之所以对安全有兴趣，主要一是有关兴趣，我觉得安全很有意思；二是觉得它很重要，因为不管在AI还是其他领域，安全都是需要注意和保护的。

AI安全有很大乐趣。因为需要你去分析比如那些攻击者会用什么样的策略，从game theory的角度来说，他们会用什么策略，然后defender需要采取什么样的策略，他们博弈的时候最优的策略分别是什么，做这些其实很有意思，需要去思考他们之间的关系，优化他们的行为。

Q：你的代表作有哪些？

A：我博士最后一年，博后的时候开始做自动驾驶领域物理世界的攻击，这个工作从2018年到现在被引用了两千多次，现在正在英国科技博物馆展