AI 时代保护儿童刻不容缓！智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

AI 时代保护儿童刻不容缓！智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

 

 

2020年9月14日，北京智源人工智能研究院（以下简称“智源研究院”）联合北京大学人工智能研究院、清华大学人工智能研究院、清华大学人工智能国际治理研究院、中科院自动化所、中科院计算所、中科院心理所等高校院所，以及小米、旷视、奇虎360、好未来、爱学习、极客邦、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织，共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。

 

当前，随着算法、算力、数据等关键要素的积累和突破，人工智能正在加速拓展更多应用场景，不断向各领域溢出渗透，带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术，人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器，人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。

 

智源研究院常务副院长曹岗介绍道，作为支持北京国家新一代人工智能创新发展试验区建设的重要举措，2019年5月25日，智源研究院联合北京大学、清华大学、中科院自动化所、中科院计算所、新一代人工智能产业技术创新战略联盟等单位，共同发布了《人工智能北京共识》，为规范和引领人工智能健康发展提供了“北京方案”，也是北京作为首个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来，已在疫情防控、安防等热点领域进行试点示范，对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。

智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出，在宏观人工智能伦理原则的前提下，探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法，持续推动人工智能治理工作，已经成为我国人工智能创新与治理的当务之急。

曾毅解释说，近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及，儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体，儿童在接受使用AI产品与解决方案时，存在一定的特殊性与被动性，可选择能力差，对风险和隐患识别的能力严重不足。此外，当下诸多人工智能产品在开发、使用和售后服务方面，针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升，对用户群体尤其是儿童用户的关爱与考虑不足，将对其健康成长产生一定程度的负面影响。在全球范围内，目前非常缺乏与儿童有关的人工智能伦理原则，因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制，帮助相关企业避免潜在风险、以保障未成年人的健康成长。

 

为有效降低人工智能技术与产品对儿童产生的不利影响，智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则，《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则，涵盖了“以儿童为中心”“保护儿童权利”“承担责任”和“多方治理”四大主题，共包括19条细化原则，呼吁社会各界高度重视人工智能对儿童的影响，人工智能的发展应保护和促进儿童的权益，避免剥夺和损害儿童的权利，助力实现儿童健康成长。