2020北京智源大会：张钹、高文、杨强同台论道“AI精度与隐私的博弈”

在过去十年，AI以大数据为驱动，给人类带来了前所未有的便利。但是，数据泄露、隐私丢失等问题也日益严重。

在AI时代，大众真的“无隐私”吗？以“联邦学习”为代表的新兴AI技术能否实现AI协作，提升模型精度与数据的隐私保护？中国如何抢占人工智能安全发展的制高点？下一个十年里，人工智能将会何去何从？

6月21日，在刚刚开幕的2020北京智源大会上，北京智源人工智能研究院联合AI Time，邀请张钹院士、高文院士、杨强教授、唐杰教授、刘知远副教授针对上述问题进行了第15期论道，共同探讨“AI精度与隐私的博弈”。

数据隐私之忧

提升模型精度是否一定意味着牺牲隐私保护？美国多地禁止人脸识别，重视隐私保护是否阻碍人工智能发展？对AI应用的用户隐私与数据安全的担忧是杞人忧天还是未雨绸缪？如何处理好发展AI技术（比如提升模型精度，实现认知智能）与人的关系？

隐私的定义是什么？隐私的范畴在哪里？AI与隐私的关系是什么？张钹院士从隐私的定义出发，从AI制度和AI技术手段两方面入手，指出了保护隐私应该坚持的发展方向、具体措施。

隐私是一个相对的概念，隐私保护是一个社会学范畴内的问题，高文院士指出在目前的阶段，相关法律制度还不健全，因此，完善相关的法律法规、政策制度，出台侵犯隐私的惩罚措施等都是非常重要的内容。

隐私一直以来是AI的短板，因为深度学习离不开大数据，但数据量的增加会导致侵犯隐私的威胁也在增加。在此背景下，杨强教授分享了瑞典政府对GDPR的看法和思路：严格的隐私保护法规是动力，会激励保护隐私的技术及早出现，并帮助欧洲在技术领域领先。

技术突围之道

针对用户诉求、国家监管需要，以联邦学习为代表的AI新技术能否解决大数据AI协作与数据隐私保护之间的矛盾？这些技术的优势与局限性有哪些？如何让更多人参与到这些技术创新中来，开源？激励机制？

技术流派应该百花齐放，整个社会应该重视诚信。高文院士认为：第一，各家应该努力去寻找最好的技术，让隐私得到最好的保护。第二，根据我国技术和社会发展现状，如果想让技术和社会和谐快速发展，隐私得到很好地保护，诚信是非常重要的内容。此外，开源在技术发展中具有重大价值，需要特别关注。

为什么要保护隐私？张钹院士先提出了这个关键问题，之后开始详细阐释了隐私保护的目的，并就东、西方价值观的差异引申出了我国隐私保护的核心问题——不滥用个人信息。避免滥用有两个方面，一方面是制定法律、规则，限制滥用行为；另一方面是发展安全、可靠、可信赖、可扩展的AI技术。

联邦学习的基本思想是：数据不出本地，模型得到更新。基于此，杨强教授详细剖析了传统的数据处理、模型训练方式和联邦学习中数据处理、模型训练方式的异同，指出了联邦学习的优势、对抗机制，及其在企业之间应用的实例。

下一代人工智能

面对现有的困境与桎梏，下一代AI技术应该具备哪些特点？我们如何抢占制高点？人与AI如何更好地协作，创造更大的价值？

下一代AI首先要考虑人，要考虑人与机器的协作，要考虑人的利益，基于此认识，杨强教授指出下一代AI中可解释性是非常重要的，同时，要了解如何将人类的智慧赋予机器，让机器站在人类的肩膀上学习。针对相关问题，杨强教授号召研究者选问题时要从很新、很难、容易解释的角度切入。

对于可解释性是第一位的观点，高文院士表示认可，并补充指出AI的高效能也是非常重要的一点。对比人脑，现有AI系统的效能还不够高，根据鹏城实验室的实际工作来看，AI精度超过人类的代价很大。对此，研究者应该去做其他人没有做过的东西，尝试让机器对知识有继承。

AI的最终目标是什么？我们现在做了哪些事？张钹院士以此为出发点，指出了目前我们沿着符号主义、连接主义已经取得的成就，并一针见血地指出现有AI的发展还处于序幕阶段，没有解决符号基础问题，没有涉及智能的根本问题，现有AI系统不安全、不可靠、不可解释、不容易扩展。对此，我们只有加强AI相关基础研究，具体到我们国家，我们其实已经有条件去做这件事了，但是路程还很漫长。

对于基础研究，张钹院士认为落脚点还是发表论文。目前，我国的基础研究已经取得长足进步，基础研究的平均水平达到了世界一流水平，但是最高水平与世界一流水平还存在差距，我们要在制度、体制上创新，鼓励、支持研究者探索新领域，勇于面对失败，能够经得起失败。

总结与展望

近期，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，针对AI的下一个十年，三位专家也给出了自己的总结与展望。

AI的治理问题非常重要，张钹院士认为只有把AI智力问题想清楚了，才能看清技术的发展方向，清楚自己该做什么工作。

发展AI是为了造福人类社会，高文院士提出要综合考虑技术发展、社会影响与成本。

AI的发展引起了全社会的关注，进而引出来了越来越多的限制和要求，如隐私保护等。杨强教授认为这些要求孕育了新的机会，引出了新的研究课题，有志向的研究者要勇于踏进新的技术领域，开创新的局面。

- 点击阅读原文或长按图片，内行盛会，首次免费注册-