在过去十年,AI以大数据为驱动,给人类带来了前所未有的便利。但是,数据泄露、隐私丢失等问题也日益严重。
在AI时代,大众真的“无隐私”吗?以“联邦学习”为代表的新兴AI技术能否实现AI协作,提升模型精度与数据的隐私保护?中国如何抢占人工智能安全发展的制高点?下一个十年里,人工智能将会何去何从?
6月21日,在刚刚开幕的2020北京智源大会上,北京智源人工智能研究院联合AI Time,邀请张钹院士、高文院士、杨强教授、唐杰教授、刘知远副教授针对上述问题进行了第15期论道,共同探讨“AI精度与隐私的博弈”。
数据隐私之忧
提升模型精度是否一定意味着牺牲隐私保护?美国多地禁止人脸识别,重视隐私保护是否阻碍人工智能发展?对AI应用的用户隐私与数据安全的担忧是杞人忧天还是未雨绸缪?如何处理好发展AI技术(比如提升模型精度,实现认知智能)与人的关系?
隐私的定义是什么?隐私的范畴在哪里?AI与隐私的关系是什么?张钹院士从隐私的定义出发,从AI制度和AI技术手段两方面入手,指出了保护隐私应该坚持的发展方向、具体措施。
隐私是一个相对的概念,隐私保护是一个社会学范畴内的问题,高文院士指出在目前的阶段,相关法律制度还不健全,因此,完善相关的法律法规、政策制度,出台侵犯隐私的惩罚措施等都是非常重要的内容。
隐私一直以来是AI的短板,因为深度学习离不开大数据,但数据量的增加会导致侵犯隐私的威胁也在增加。在此背景下,杨强教授分享了瑞典政府对GDPR的看法和思路:严格的隐私保护法规是动力,会激励保护隐私的技术及早出现,并帮助欧洲在技术领域领先。
技术突围之道
针对用户诉求、国家监管需要,以联邦学习为代表的AI新技术能否解决大数据AI协作与数据隐私保护之间的矛盾?这些技术的优势与局限性有哪些?如何让更多人参与到这些技术创新中来,开源?激励机制?
技术流派应该百花齐放,整个社会应该重视诚信。高文院士认为:第一,各家应该努力去寻找最好的技术,让隐私得到最好的保护。第二,根据我国技术和社会发展现状,如果想让技术和社会和谐快速发展,隐私得到很好地保护,诚信是非常重要的内容。此外,开源在技术发展中具有重大价值,需要特别关注。
为什么要保护隐私?张钹院士先提出了这个关键问题,之后开始详细阐释了隐私保护的目的,并就东、西方价值观的差异引申出了我国隐私保护的核心问题——不滥用个人信息。避免滥用有两个方面,一方面是制定法律、规则,限制滥用行为;另一方面是发展安全、可靠、可信赖、可扩展的AI技术。
联邦学习的基本思想是:数据不出本地,模型得到更新。基于此,杨强教授详细剖析了传统的数据处理、模型训练方式和联邦学习中数据处理、模型训练方式的异同,指出了联邦学习的优势、对抗机制,及其在企业之间应用的实例。
下一代人工智能
面对现有的困境与桎梏,下一代AI技术应该具备哪些特点?我们如何抢占制高点?人与AI如何更好地协作,创造更大的价值?
下一代AI首先要考虑人,要考虑人与机器的协作,要考虑人的利益,基于此认识,杨强教授指出下一代AI中可解释性是非常重要的,同时,要了解如何将人类的智慧赋予机器,让机器站在人类的肩膀上学习。针对相关问题,杨强教授号召研究者选问题时要从很新、很难、容易解释的角度切入。
对于可解释性是第一位的观点,高文院士表示认可,并补充指出AI的高效能也是非常重要的一点。对比人脑,现有AI系统的效能还不够高,根据鹏城实验室的实际工作来看,AI精度超过人类的代价很大。对此,研究者应该去做其他人没有做过的东西,尝试让机器对知识有继承。
AI的最终目标是什么?我们现在做了哪些事?张钹院士以此为出发点,指出了目前我们沿着符号主义、连接主义已经取得的成就,并一针见血地指出现有AI的发展还处于序幕阶段,没有解决符号基础问题,没有涉及智能的根本问题,现有AI系统不安全、不可靠、不可解释、不容易扩展。对此,我们只有加强AI相关基础研究,具体到我们国家,我们其实已经有条件去做这件事了,但是路程还很漫长。
对于基础研究,张钹院士认为落脚点还是发表论文。目前,我国的基础研究已经取得长足进步,基础研究的平均水平达到了世界一流水平,但是最高水平与世界一流水平还存在差距,我们要在制度、体制上创新,鼓励、支持研究者探索新领域,勇于面对失败,能够经得起失败。
总结与展望
近期,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》,针对AI的下一个十年,三位专家也给出了自己的总结与展望。
AI的治理问题非常重要,张钹院士认为只有把AI智力问题想清楚了,才能看清技术的发展方向,清楚自己该做什么工作。
发展AI是为了造福人类社会,高文院士提出要综合考虑技术发展、社会影响与成本。
AI的发展引起了全社会的关注,进而引出来了越来越多的限制和要求,如隐私保护等。杨强教授认为这些要求孕育了新的机会,引出了新的研究课题,有志向的研究者要勇于踏进新的技术领域,开创新的局面。
- 点击阅读原文或长按图片,内行盛会,首次免费注册-