AI公共政策成全球热点，美国ITI发布《人工智能政策原则》｜AI观察

来源：腾讯研究院

概要：AI研究开发和行业应用的热度仍在持续，在此背景下，AI公共政策成为了全球公私部门关注的热点。

一、AI公共政策成AI领域全球热点

AI研究开发和行业应用的热度仍在持续，在此背景下，AI公共政策成为了全球公私部门关注的热点。比如，2017年10月，石油大国阿联酋将人工智能确立为国家战略，同时高调任命了全球首个人工智能部长（minister of Artificial Intelligence），表明了阿联酋要用数据这一“新石油”和人工智能来解决其社会和经济发展问题的决心。

同样是在10月，英国工业联合会（CBI）发布《在英国发展人工智能产业》的报告，十分看好大数据、人工智能等对英国生产力的促进、提高作用，预计到2035年AI将给英国经济增加8140亿美元，并为此提出了18条公共政策建议，涉及“提高数据获取、促进技能供给、最大化AI研发、支持AI传播和渗透”等四个主要层面。

除了最近这些公共政策举措，美国、欧盟、英国、德国等自2016年以来就开始积极推进AI公共政策，比如在发布的政府报告或者国家AI战略中呼吁政策、法律、伦理、社会影响等研究，积极推动AI责任立法、AI伦理准则以及自动驾驶、医疗机器人等领域的细分立法，以及呼吁成立专门的人工智能机构加强对就业结构、工作等社会影响的监测并提出政策建议。

不仅公共部门热衷于AI公共政策，私营部门的科技公司对此亦动作频频。部分原因是人们对人工智能存在很大的认知偏差，对新技术缺乏深入理解导致威胁论、普遍失业等观点加深公众敌意和不信任，新技术带来的隐私、责任、安全和控制、理解和透明性、歧视等问题日益引起研究人员的兴趣。在业界，未来生活研究院（FLI）2017年初组织提出了人工智能发展的23条原则，2017年的“AI Now”报告提出了10项AI公共政策建议，这些都是业界的研究尝试。

硅谷的科技公司同样在以多种方式发表对于AI公共政策的观点和看法。比如，微软CEO纳德拉2016年在演讲中提出微软发展人工智能的六大原则，包括AI必须是透明性的，在追求效率最大化的同时不损害人类尊严，必须保护隐私，防止产生偏见，向算法问责，等等。这六大原则是微软AI研发的核心设计原则。

此外，微软还发布了《人工智能政策建议》，包括革新法律和法律实践以促进AI发展，鼓励制定最佳实践伦理准则，以AI带来的好处为基准衡量隐私法，政府以及公共部门通过启动重大项目和系统来促进AI的传播和采用。

还有IBM，Watson团队很早就成了伦理审查委员会，IBM在2017年达沃斯世界经济论坛上公布了其发展人工智能的三个基本原则，不以取代人类为目的，增加透明性，以及提高技能培训和供给。此外，IBM还致信美国国会，表达其公共政策诉求。

二、ITI人工智能政策原则呼吁灵活监管AI，

避免激进立法

人工智能（AI）是一套通过对人类大脑的模仿，能够进行学习、推理、适应和执行任务的技术。随着数据获取和计算能力以及人类创造力的提高，研究人员正在开发智能的软件和机器，以提高人的生产力并无处不在地增强人类能力。

通过将AI的能力和陆地概况图、天气预报和土壤数据结合起来，科技可以提供所需的数据和工具以便人类更好地保护土地，改善生态系统和提高农业产量。AI驱动的机器甚至可以使危险或困难的任务更安全，为人们开辟以前无法由人类探索的新环境。

为了确保AI能够发挥最大的积极潜力，信息技术产业理事会（ITI）代表技术领域的前沿公司，呼吁公共和私人部门的利益相关者之间相互合作。作为一个行业，我们承认有必要与各国政府和其他有关方面进行对话，并使之成为每一个阶段都应有的步骤。下文列举了行业和政府可以合作的具体领域，以及能够促成公私合作伙伴关系的具体机会。为了发展这些我们认为会和AI技术一道进化的原则，我们提出以下共识：

1.我们的责任：促进负责任的发展与利用

（1）负责任的设计和部署

我们认识到，我们有责任在遵守现有法律的基础上，将一些原则与AI的技术设计相结合。虽然AI对人类和社会的潜在好处是惊人的，但AI研究人员、专家和利益相关者还是应该花费大量的时间来确保AI的设计和部署是负责任的。高度自动化的人工智能系统必须符合保护人类尊严、权利和自由的国际惯例。作为一个行业，我们承认AI的使用和滥用可能产生的任何影响，并承认我们有责任也有机会能够通过引导AI向符合道德的方向发展，来避免可能产生的不良后果。

（2）安全和可控性

技术人员有责任确保AI系统设计的安全性。自主的AI代理（Autonomous AI Agents，或称AI能动体）必须将用户和第三方的安全视为首要考虑，AI技术应努力降低对人类可能产生的风险。此外，AI系统的开发必须具有相应保障措施，以确保人类对AI具有控制力，使AI严格遵守特定的运行程序。

（3）稳健而有代表性的数据

为了促进数据的有效使用并确保其在每个阶段的完整性，行业有责任了解数据的参数和特征，以证明其了解潜在的有害歧视和偏差，并在开始之前和部署整个AI系统的过程中对潜在的歧视和偏差进行测试。AI系统需要利用大型数据集，提供稳健而又有代表性的数据对于开发和改进AI和机器学习系统而言至关重要。

（4）可解释性

我们致力于与政府、私营企业、学术界和民间社会等主体共同寻求减少自动化决策系统中的歧视（偏见）、不公平和其他潜在危害的方法。但是，寻求这种解决方案的方法应该具体针对特定系统运行所依的特定环境下所呈现的独特风险。在许多情况下，我们认为实现更优解释性的工具将发挥重要作用。

2.政府的机会：投资和建立AI生态系统

（1）投资AI研究与发展

我们鼓励通过激励制度和资金支持来促进研究、开发以及创新。作为长期高风险研究的资金的主要来源，我们支持政府对与AI有高度相关性的研究领域的投资，包括：网络防御，数据分析，欺诈性的交易或信息的检测，机器人，人类增强技术，自然语言处理，交互界面和可视化。

（2）灵活的监管方式

我们鼓励政府在采用新的法律法规之前，评估现有的政策工具，并谨慎使用。因为新的法律法规和税收政策可能无意或不必要地阻碍AI的推广和使用。由于AI技术的应用领域跨度很大，过度管理可能会无意间减少市场主体（尤其是创业公司和小型企业）创造和提供的技术的数量。我们鼓励政策制定者认识到在不同部门需要有具体做法的重要性，因为一种监管方式将不足以完全适合所有AI应用程序。我们随时准备与政策制定者和监管机构合作，解决出现的问题。

（3）促进创新和互联网安全

我们坚决支持保护AI的基础，包括源代码、专有算法和其他知识产权。为此，我们认为政府应避免要求公司转让或提供技术、源代码、算法或加密密钥作为业务交易条件。我们支持使用包括贸易协议在内的所有可用工具来实现这些目标。

（4）网络安全和隐私

就像其他技术一样，AI依赖强大的网络安全和隐私政策。我们鼓励政府使用强大的、全球接受和部署的加密技术和其他安全标准，从而实现信任和互操作性。我们鼓励自愿分享关于网络攻击或者黑客的信息，以更好地实现消费者保护。技术部门作为利益相关者最信赖的部门，可以通过将强大的安全功能融入到产品和服务中以提升可信度，例如使用已发布的算法作为默认加密方法以及限制对加密密钥的访问。数据和网络安全是AI实现成功的重要部分。

（5）全球标准和最佳实践

我们促进发展全球自愿的、行业主导的、基于共识的标准和最佳实践。我们鼓励在这些活动中进行国际合作，以帮助加快采用，促进竞争，并有助于实现成本效益的AI技术的引入。

3.公私合作的机遇：促进终身教育和多样性

（1）民主获取和机会平等

人工智能系统正在形成创造经济价值的新方法，如果这些价值为某些主体所独享，则可能会加剧现有工资、收入和财富差距。我们支持获取AI开发所需资源的机会和途径是多样的并且是不断扩大的，例如获取计算资源、教育和培训以及参与技术开发的机会等。

（2）科学、技术、工程和数学（STEM）教育

当前和未来的工人需要接受能够帮助他们成功的必要的教育和培训。我们认识到培训的提供至关重要，要对STEM教育领域以及人文科学和社会科学领域都进行重大投资。为了确保未来劳动力的就业能力，公营部门和私营部门应共同努力，设计和提供以工作为基础的学习和培训体系，积极为学生提供实际的工作经历和具体的技能。特别是在AI社区中，优先考虑STEM领域的多样性和包容性将是确保AI以最强劲的方式发展的重要要求。

（3）劳动力

有人担心人工智能将导致工作变更、失业或工人流离失所。虽然这些关切是可以理解的，但应该指出的是，大多数新兴的AI技术旨在执行特定任务，而不是替代人员。然而这种AI不断增强的智力的确意味着一个雇员的部分（但很可能不是全部）工作将会被AI替代或者更轻易地完成。

就创造或破坏就业机会而言，AI对工作的全面影响尚且无法完全知晓，但适应快速的技术变革的能力至关重要。我们应该综合利用传统的以人为中心的资源，以及新的职业教育模式和新开发的人工智能技术，来帮助现有的员工和未来的员工成功地开拓他们的事业或完成职业转型。

此外，我们必须通过公私合作，提高包括劳动力调整项目在内的终身职业教育和学习的传递性和有效性。同时，我们还必须优先考虑提供职业培训以满足市场对劳动力的需求，将资源集中于能产生强劲成果的项目上。

（4）公私合作伙伴关系

公私合作伙伴关系（PPPs）将使AI部署成为政府和私营企业的热门投资项目，并促进AI领域的创新性、可扩展性和可持续性。通过利用公私合作伙伴关系，特别是通过企业、学术机构和政府之间的相互合作，我们可以加快人工智能研发，为未来的工作做好准备。

三、对我国AI公共政策的几点启示

从《“互联网+”人工智能三年行动实施方案》到人工智能被写入2017年政府工作报告、《新一代人工智能发展规划》再到十九大报告提出“推动互联网、大数据、人工智能和实体经济深度融合”，我国对人工智能的重视不断提高，已经将发展人工智能上升为国家战略，而人工智能正逐步成为国际竞争的新焦点，西方发达国家如美国、英国、加拿大等都大力加码人工智能，纷纷看好其对经济增长的巨大价值和其他潜在好处。

我们需要看到，人工智能作为一项变革性的技术，有能力创造出巨大的经济效益，推动经济增长，并帮助解决人类社会中诸如交通、城市建设、医疗、环境保护等一系列迫切的社会问题，但这同时需要良好的公共政策环境以及对风险和危机的警惕意识。

第一，多层面打造人工智能生态系统。人工智能目前已经成为全球竞争的新焦点，各国在技术研发和部署上不断加码加力，都欲抢占技术高地。我国需要持续加大对人工智能的投资和政策支持，不仅包括提供专项研究资金、给予税收优惠等扶持性政策，而且需要对阻碍AI研发利用的既有法律制度进行革新（比如形成促进数据开放和获取的政策框架，因为用AI来解决社会问题、改善社会管理的核心还在于数据的获取），同时谨慎监管新事物，不宜激进立法，而是多采取行业指导等灵活的监管方式，在技术研发、产业应用、人才培养、政策支持等多层面形成合力，打造创新性的AI生态系统。

第二，负责任的AI研发和利用。AI技术本身是中立的，可以带来经济增长、解决社会问题，但其研发和利用也可能超越法律、伦理的界限，带来危险危害。如同过去的所有技术一样，AI也可能被滥用，其发展也可能偏离人类价值追求的方向，这是一个需要重视的问题。公私部门需要一起探索形成人工智能研发伦理和利用伦理限制，形成行业最佳实践的伦理准则，让AI创新、研发和部署是负责任的、可持续的，不断增进社会和个人的福祉。

第三，AI技术传播渗透和应用普及。AI的社会价值是巨大的，但这取决于AI技术在各个行业的传播渗透和应用普及。在这方面，政府可以发挥重大作用，比如可以通过组织实施一系列重大的AI研发、应用工程和系统部署，形成典型案例，从而对行业形成指导，促进AI技术的应用普及。

第四，教育、人才培养和劳动力转型。AI发展需要教育的跟进和高端人才的培养。正如ITI的人工智能政策原则所言，为了确保未来劳动力的就业能力，公营部门和私营部门应共同努力，设计和提供以工作为基础的学习和培训体系，积极为学生提供实际的工作经历和具体的技能。特别是在AI社区中，优先考虑STEM领域的多样性和包容性将是确保AI以最强劲的方式发展的重要要求。