IT道德与伦理

人工智能和包括机器人在内的智能化自动系统的普遍应用，不仅仅是一场结果未知的开放性的科技创新，更将是人类文明史上影响甚为深远的社会伦理试验。诚如霍金所言，人工智能的短期影响由控制它的人决定，而长期影响则取决于人工智能是否完全为人所控制。

人工智能体的拟主体性与人工伦理智能体

人工智能的伦理问题之所以受到前所未有的关注，关键原因在于其能实现某种可计算的感知、认知和行为，从而在功能上模拟人的智能和行动。有鉴于此，人工智能学家引入了智能体（agents，又称智能主体）的概念来定义人工智能：对能够从环境中获取感知并执行行动的智能体的描述和构建。于是，可将各种人工智能系统称为人工智能体或智能体。如果仅将智能体看作一般的技术人造物，其研究进路与其他科技伦理类似，主要包括面向应用场景的描述性研究、凸显主体责任的责任伦理研究以及基于主体权利的权利伦理研究。但在人们赋予智能体以拟主体性的同时，会自然地联想到，不论智能体是否像主体那样具有道德意识，它们的行为可以看作是与主体伦理行为类似的拟伦理行为。进而可追问：能不能运用智能算法对人工智能体的拟伦理行为进行伦理设计，即用代码编写的算法使人所倡导的价值取向与伦理规范得以嵌入到各种智能体之中，令其成为遵守道德规范乃至具有自主伦理抉择能力的人工伦理智能体？

机器人三定律与嵌入式的机器伦理调节器

其实，这一思路并不新鲜，早在70多年前，美国人阿西莫夫在对机器人三定律的科学幻想中，就提出了通过内置的“机器伦理调节器”使机器人成为服从道德律令的类似构想。在短篇科幻小说《转圈圈》（1942）中，阿西莫夫提出了按优先顺序排列的机器人三定律：第一定律，机器人不得伤害人类或坐视人类受到伤害；第二定律，在与第一定律不相冲突的情况下，机器人必须服从人类的命令；第三定律，在不违背第一与第二定律的前提下，机器人有自我保护的义务。此后，为了克服第一定律的局限性，他还提出了优先级更高的机器人第零定律：机器人不得危害人类整体或坐视人类整体受到危害。

从内涵上讲，机器人定律是一种康德式的道德律令，更确切地讲是人为机器人确立的普遍道德法则，以确保其成为遵守绝对道德律令的群体。而更耐人寻味的是，机器人三定律是通过技术实现的。机器人定律并不全然是道德律令，也符合其技术实现背后的自然律。换言之，机器人定律所采取的方法论是自然主义的，它们是人以技术为尺度给机器人确立的行为法则，既体现道德法则又合乎自然规律。从自然主义的方法论来看，这一构想又似乎明显超前。在提出第零定律时，阿西莫夫也意识到，机器人可能无法理解人类整体及人性等抽象概念。或许是这些困难令他转而畅想，一旦机器人灵活自主到可以选择其行为，机器人定律将是人类理性地对待机器人或其他智能体的唯一方式。这似乎是在暗示，使人工智能体成为可以自主作出伦理抉择的人工伦理智能体的前提是其可与人的智能媲美。

走向可计算的机器伦理与智能体伦理嵌入

回到人工智能的现实发展，随着无人机、自动驾驶、社会化机器人、致命性自律武器等应用的发展，涌现出大量人可能处于决策圈外的智能化自主认知、决策与执行系统，这迫使人们在实现强人工智能之前，就不得不考虑如何让人工智能体自主地做出恰当的伦理抉择，试图将人工智能体构造为人工伦理智能体。

在实践层面，机器伦理构建的具体策略有三：其一是自上而下，即在智能体中预设一套可操作的伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低。其二是自下而上，即让智能体运用反向强化学习等机器学习技术研究人类相关现实和模拟场景中的行为，使其树立与人类相似的价值观并付诸行动，如让自动驾驶汽车研究人类的驾驶行为。其三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正其中可能存在的问题。但这些策略都有其显见的困难：如何在量化和计算中准确和不走样地表达与定义伦理范畴？如何使智能体准确地理解自然语言并与人进行深度沟通？

鉴于机器伦理在实践中的困难，人工智能体的伦理嵌入不能局限于智能体，而须将人的主导作用纳入其中。伦理评估工具旨在对智能体是否应该以及是否恰当地代理了相关主体的伦理决策做出评估，并对机器伦理的道德理论（如效益论、道义论等）和伦理立场（如个性化立场、多数人立场、随机性选择等）等元伦理预设做出评价和选择。人机接口旨在使人与智能体广泛借助肢体语言、结构化语言、简单指令乃至神经传导信号加强相互沟通，使机器更有效地理解人的意图，并对人的行为做出更好的预判。伦理督导者则旨在全盘考量相关伦理冲突、责任担当和权利诉求，致力于厘清由人类操控不当或智能体自主抉择不当所造成的不良后果，进而追溯相关责任，寻求修正措施。

对人类文明而言，人工智能将是一个好消息还是坏消息，最终取决于我们的伦理智慧。在中国推出新一代人工智能发展规划的今天，我们更要悉心体味孕育了巧夺天工精神和天工开物情怀的中国思想，审天人之性，度万物之势，以探求人机和谐、文明通达之道。

人工智能和包括机器人在内的智能化自动系统的普遍应用，不仅仅是一场结果未知的开放性的科技创新，更将是人类文明史上影响甚为深远的社会伦理试验。诚如霍金所言，人工智能的短期影响由控制它的人决定，而长期影响则取决于人工智能是否完全为人所控制。

人工智能体的拟主体性与人工伦理智能体

人工智能的伦理问题之所以受到前所未有的关注，关键原因在于其能实现某种可计算的感知、认知和行为，从而在功能上模拟人的智能和行动。有鉴于此，人工智能学家引入了智能体（agents，又称智能主体）的概念来定义人工智能：对能够从环境中获取感知并执行行动的智能体的描述和构建。于是，可将各种人工智能系统称为人工智能体或智能体。如果仅将智能体看作一般的技术人造物，其研究进路与其他科技伦理类似，主要包括面向应用场景的描述性研究、凸显主体责任的责任伦理研究以及基于主体权利的权利伦理研究。但在人们赋予智能体以拟主体性的同时，会自然地联想到，不论智能体是否像主体那样具有道德意识，它们的行为可以看作是与主体伦理行为类似的拟伦理行为。进而可追问：能不能运用智能算法对人工智能体的拟伦理行为进行伦理设计，即用代码编写的算法使人所倡导的价值取向与伦理规范得以嵌入到各种智能体之中，令其成为遵守道德规范乃至具有自主伦理抉择能力的人工伦理智能体？

机器人三定律与嵌入式的机器伦理调节器

其实，这一思路并不新鲜，早在70多年前，美国人阿西莫夫在对机器人三定律的科学幻想中，就提出了通过内置的“机器伦理调节器”使机器人成为服从道德律令的类似构想。在短篇科幻小说《转圈圈》（1942）中，阿西莫夫提出了按优先顺序排列的机器人三定律：第一定律，机器人不得伤害人类或坐视人类受到伤害；第二定律，在与第一定律不相冲突的情况下，机器人必须服从人类的命令；第三定律，在不违背第一与第二定律的前提下，机器人有自我保护的义务。此后，为了克服第一定律的局限性，他还提出了优先级更高的机器人第零定律：机器人不得危害人类整体或坐视人类整体受到危害。

从内涵上讲，机器人定律是一种康德式的道德律令，更确切地讲是人为机器人确立的普遍道德法则，以确保其成为遵守绝对道德律令的群体。而更耐人寻味的是，机器人三定律是通过技术实现的。机器人定律并不全然是道德律令，也符合其技术实现背后的自然律。换言之，机器人定律所采取的方法论是自然主义的，它们是人以技术为尺度给机器人确立的行为法则，既体现道德法则又合乎自然规律。从自然主义的方法论来看，这一构想又似乎明显超前。在提出第零定律时，阿西莫夫也意识到，机器人可能无法理解人类整体及人性等抽象概念。或许是这些困难令他转而畅想，一旦机器人灵活自主到可以选择其行为，机器人定律将是人类理性地对待机器人或其他智能体的唯一方式。这似乎是在暗示，使人工智能体成为可以自主作出伦理抉择的人工伦理智能体的前提是其可与人的智能媲美。

走向可计算的机器伦理与智能体伦理嵌入

回到人工智能的现实发展，随着无人机、自动驾驶、社会化机器人、致命性自律武器等应用的发展，涌现出大量人可能处于决策圈外的智能化自主认知、决策与执行系统，这迫使人们在实现强人工智能之前，就不得不考虑如何让人工智能体自主地做出恰当的伦理抉择，试图将人工智能体构造为人工伦理智能体。

在实践层面，机器伦理构建的具体策略有三：其一是自上而下，即在智能体中预设一套可操作的伦理规范，如自动驾驶汽车应将撞车对他人造成的伤害降到最低。其二是自下而上，即让智能体运用反向强化学习等机器学习技术研究人类相关现实和模拟场景中的行为，使其树立与人类相似的价值观并付诸行动，如让自动驾驶汽车研究人类的驾驶行为。其三是人机交互，即让智能体用自然语言解释其决策，使人类能把握其复杂的逻辑并及时纠正其中可能存在的问题。但这些策略都有其显见的困难：如何在量化和计算中准确和不走样地表达与定义伦理范畴？如何使智能体准确地理解自然语言并与人进行深度沟通？

鉴于机器伦理在实践中的困难，人工智能体的伦理嵌入不能局限于智能体，而须将人的主导作用纳入其中。伦理评估工具旨在对智能体是否应该以及是否恰当地代理了相关主体的伦理决策做出评估，并对机器伦理的道德理论（如效益论、道义论等）和伦理立场（如个性化立场、多数人立场、随机性选择等）等元伦理预设做出评价和选择。人机接口旨在使人与智能体广泛借助肢体语言、结构化语言、简单指令乃至神经传导信号加强相互沟通，使机器更有效地理解人的意图，并对人的行为做出更好的预判。伦理督导者则旨在全盘考量相关伦理冲突、责任担当和权利诉求，致力于厘清由人类操控不当或智能体自主抉择不当所造成的不良后果，进而追溯相关责任，寻求修正措施。

对人类文明而言，人工智能将是一个好消息还是坏消息，最终取决于我们的伦理智慧。在中国推出新一代人工智能发展规划的今天，我们更要悉心体味孕育了巧夺天工精神和天工开物情怀的中国思想，审天人之性，度万物之势，以探求人机和谐、文明通达之道。