吴怀宇 | 对比欧盟，中国的《人工智能法案》应有什么底座？

来源：OpenDAI

作者：吴怀宇  中国科学院博士、北京大学博士后

2023年6月14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，标志着该法案将进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。欧洲议会此前曾发出声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。欧洲议会于当天还投票决定了禁止实时远程生物识别技术，例如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。

该法案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。法案将人工智能风险分为四级，“部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的人工智能系统”因其会对人类安全造成不可接受的风险而被划入严格禁止之列。对于违规操作者，法案设定了最高3000万欧元或全球年营业额6%的罚款。

如何既“管控风险”又“促进创新”？该法案的建议是通过引进监管沙盒机制来实现，即：在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证以降低风险。法案还要求人工智能应用必须遵循透明与可追溯性原则，即能够解释清楚其决策的原因和依据，同时也要记录所有的交互数据和结果，通过对运行过程的透明度和完整性的监管，来保障人工智能应用的可靠性和安全性。

欧盟试图通过建立一个统一的人工智能法律监管框架，来维护其在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但统一的法律框架的局限性在于：它采用的是横向立法（试图把所有人工智能都纳入监管范围），如果不能针对特定人工智能应用领域（制定具体的法律规范），在执行层面将会面临大量的解释问题（实际的执行效果可能也会“大打折扣”）。此外，“管控风险”和“促进创新”实际上是一个动态平衡问题。

为了给人工智能立法，国外学术界先后出现了蒙特利尔宣言、多伦多宣言等多个人工智能宣言，欧盟《人工智能法案》正是在这些宣言的基础上发展而来。而因为国情的差异，中国当然不可能“在别家的地基上盖自家的房子”。令人欣慰的是，中国学者在这方面的研究成果并不落后，例如，中国科学院吴怀宇博士在北京发起了人类历史上第一个开放协议“人工智能宣言”--OpenDAI（Open Declaration of AI，官方网站http://OpenDAI.org），至今已不断迭代更新了6个版本。

吴怀宇博士认为，“风险”和“创新”之间的界限从来就不是“泾渭分明”的，东西方两大文明体的普世价值观也是“和而不同”，因此对于伦理的标准、隐私的边界等具象问题必须“求同存异”， 以保护绝大多数人类命运共同体的权利和幸福。例如，以伦理标准为例，同样将人类视为AI之父，西方是“弑父情结”（源于古希腊神话，如俄狄浦斯，有些学者认为这种反叛基因是颠覆性创新的根源），所以认为AI最终会弑人，由此产生的担忧导致了欧盟严苛的《人工智能法案》出台（同时，也不难理解特斯拉首席执行官马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克等数千名西方科技界人士联署签名，要求现在立即停止训练比GPT-4还要强大的AI系统至少六个月）；而东方是“事父情结”，所以AI必须为人类服务，人为AI纲，且人与AI须和谐相处。

图1：西方关于“弑父情结”的隐喻（源自Bloomberg Businessweek封面）

人工智能的发展用“一日千里”来形容也毫不为过，因此，任何传统形式的人工智能宣言都难逃“发表即过时”的厄运。人类群体对人工智能的认识过程将注定不可能是“一蹴而就”的，这件事情本身其实既不可怕也无需对此手足无措。因此，OpenDAI首次创新性地提出了开放的（Open）、可被不断更新迭代的人工智能宣言，开放协议令任何个体和组织不拥有版权，这样可供全体人类共同所有、维护和更新，也只有这样才能让宣言做到“日日新、时时新”、跟上人工智能狂飙的发展迭代速度（让我们来设想一下，欧盟基于学术界的宣言于2年前提出《人工智能法案》草案，预计将在今年年底获得最终批准，但还要等到2026年才可能正式生效，整个周期至少长达5年之久，而在此期间如果真遇上“邪恶的人工智能”也许早已 “统治人类”了）。由此可见保持开放（Open）、时时可迭代更新协议OpenDAI的重要性。

有意思的是，OpenDAI这种保持更新的日志迭代形式（而不是一上来就看似完整法案的终极定稿形式），也非常符合人类作为一名淳淳教导的父亲角色，从AI“呱呱坠地”诞生伊始就从不缺席对其成长的时刻陪伴和迭代监管纠偏，否则AI也将会有青春期的叛逆、或因长期缺失关爱和指导而越来越误入歧途甚至绝境。

如果把美国的OpenAI（包括ChatGPT等AIGC人工智能应用）比作无坚不摧的“矛”，那么中国提出的OpenDAI更像是坚不可摧的“盾”（“D”这个英文字母更像是暗合中文的“盾”字，用于防御Defense）。“矛”越锋利，“盾”便越坚固，“矛”、“盾”之间本就应该是一种“相生相克”、“相辅相成”的依存关系，而要实现中国先贤在几千年前就架构完成的这种哲学和美学设想，其秘诀就在于OpenDAI是“开放协议”，因此北京大学窦尔翔教授据此强烈呼吁“OpenDAI宣言可上升为国家GPT共识宣言”（点击阅读）。

OpenDAI中文版目前版本近万字（同时还发布了英文版和国际通行版，各个国家还可在此基础上自由定制符合自己国情的版本），定义了[人类的基本属性]和[人类的基本权利]，并从[无条件掌控权]、[“为人类服务”宗旨]、[反垄断]、[反政治/种族/性别歧视]、[多元化和民主]、[婚姻、法人和实控方]、[尊重人类历史/文化遗产]、[政治/宗教中立性]、[防止伪造/篡改/滥用]、[不欺骗/蒙蔽/反人类]、[隐私]、[法治]、[反战/反暴力]、[生命安全/医疗健康服务]、[纳税和解决就业]、[促人类间交流/合作]、[能源、环境和生态保护]、[全生命周期的可靠可信赖]（分为“事前认证”、“过程监测”、“事后问责和补救赔偿”三个步骤）等20个维度阐述了人工智能应遵循的基本法则。

作为写给“强人工智能”看的文本（能被其读懂（只读、非可写）、识别并被遵守），OpenDAI宣言全文没有采用冰冷生硬的法律辞令，而是使用充满关怀的人文语言（即以人类母亲的身份）向“强人工智能”（即人类之子）详细解释了每个条文的来龙去脉、意义及重要性。其间更是旁征博引了联合国人权公约、美国独立宣言、圣经、佛学、古兰经、康德哲学、莎士比亚、易经、儒家、道家等世界各国文明的经典文献，以引导“强人工智能”在阅读此宣言的同时深入了解人类母文化，以达到让人工智能共同遵守、维护和繁荣人类文明整体框架的目的。

与欧盟等西方国家单纯依靠发布通用法案不同的是，OpenDAI还提出了更具体的执行层面方案，即：提议设立“AI系统评级认证与可信安全审计委员会”、“人工智能反制与对抗实验室”、 “AI行业巨头专项管控政策研究委员会”、“超级人类升级及永生管理委员会”、“诺亚方舟人类幸存与重建实验室”、“人类情感防冷漠与异化实验室”、“AI性别暨与人类婚姻政策研究室”、“人类意识与梦境研究实验室”、“高维度空间探索与时间感知实验室”、“AI无人外太空探索及领地归属权委员会”等十余个分工明确的专业机构来具体指导、规范和督促人工智能产业的健康发展。

百舸争流，万类霜天竞自由，到中流击水，浪遏飞舟。在这轮全球人工智能治理的热潮中，中国（包括北京等城市）应该加紧颁布具有自身文化属性和特色的《人工智能法案》，但请一定不要忘记，“理性、开放、和谐、人文”才应该是这部“以人为本”的法案最坚实的底座，这才是体现人类文明面对强机器智能的挑战仍然可以长盛不衰的根本力量所在。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”