机器人三大定律的发展和演进概述

机器人三大定律：也叫做机器人三大法则，机器人三原则，或者阿西莫夫原则。

艾萨克·阿西莫夫 Issac Assimov，1920~1992年，俄裔美国作家，犹太人，世界顶级科幻大师，与儒勒·凡尔纳Jules Gabriel Verne、H·G·威尔斯Herbert George Wells并称为科幻历史上的三巨头，与罗伯特·海因莱因Robert Anson Heinlein、亚瑟·克拉克Arthur Charles Clarke并列为科幻小说的三巨头。

同时阿西莫夫是一位超级多产的作家，他的格言是“不为别的，只为写作而生”，“如果不写作，我就会死去”。他一生创作和编辑过得书籍超过500册，他的机器人系列、银河帝国系列、基地系列小说共同构成宏大的未来宇宙，被誉为“科幻圣经”。

其中机器人三大定律便出自阿西莫夫1942年发表的短篇小说《转圈圈（Runaround，或译作环舞）》，这部小说后来被收入《我，机器人（I，Robot）》短篇集中。

一、三大定律的诞生

第一定律：机器人不得伤害人类，或坐视人类受到伤害；

第二定律：除非违背第一定律，否则机器人必须服从人类命令；

第三定律：除非违背第一或第二定律，否则机器人必须保护自己。

《我，机器人（I，Robot）》短篇集包含了9个关于机器人的小故事，用以深入阐明机器人三大定律，这9个故事是：

• 《罗比Robbie》发表于1940年，小女孩格洛莉娅和她的保姆机器人罗比的情感故事。

• 《转圈圈Runaround》发表于1942年，在水星上SPD-13机器人速比迪失控的故事。

• 《推理Reason》发表于于1941年，太空站QT1型机器人小可爱策谋造反的故事。

• 《捉兔子Catch that Rabbit》发表于1944年，行星矿场带有6个从属机器人的DV-5机器人戴夫行为异常的故事。

• 《说假话的机器人Liar!》发表于1941年，具有心灵感应能力的HRB-34型机器人引发人类混乱的故事。

• 《捉拿机器人Little Lost Robot》发表于1947年，在超空间研发基地寻找丢失的一台NS-2机器人内斯特的故事。

• 《逃避Escape！》发表于1945年，美国机器人公司的主脑机器人尝试开发超空间飞船的故事。

• 《证据Evidence》发表于1946年，市长候选人斯蒂芬·拜尔利被人怀疑是机器人而引发的一系列故事。

• 《换个角度The Evitable Conflict》发表于1950年，斯蒂芬·拜尔利拜访全球四大区域调查超级电脑机体异常情况的故事。

如果要深入理解机器人三大定律，完整阅读这9个故事是非常必要的，您可以容易的在网络上搜索到原文阅读，或者在喜马拉雅APP找到相关音频内容。

2004年上映的威尔史密斯主演的电影《机械公敌I，Robot》主要创意即取自于阿西莫夫短篇集的第5个故事《捉拿机器人》，但从影片的全篇来看，则是蕴含着超越机器人三大定律的内容，包含了来自机器人第零定律的概念。

二、三大定律的完善

2010年后，美国科幻小说作家米奇·扎克·赖希特（Mickey Zucker Reichert）为这个系列又撰写了三部前传，分别是《保护 to protect》、《服从 to obey》、《存续preserve》。

机器人三大定律中存在着很多致命问题，这其实在阿西莫夫的《我，机器人》系列小说中就有了各种展示。

《I，Robot》本是另一名科幻小说作家Eando Binder在1939年发表的机器人科幻小说，这是一个关于机器人Adam link被创造出来然后又陷入谋杀嫌疑的故事，听上去有些像科学怪人弗莱肯斯坦。

阿西莫夫从这本小说中获得灵感并开始创作机器人系列故事的第一篇《罗比》，当1950年他的这些短篇故事被结集出版的时候，他建议书名叫做《心灵与钢铁Mind and Iron》，但最终被出版商使用了同名的《I，Robot》。

由于阿西莫夫在小说中提出了著名的机器人三大定律，所以有很多人愿意把他称为机器人之父。然而在阿西莫夫心中，机器人之父的称谓大概应该归属于于约瑟夫·恩格伯格Joseph F. Engelberger和马文闵斯基Marvin Minsky，他曾在小说中特别向他们致意。

马文闵斯基也是公认的人工智能之父，是人工神经网络的奠基人，阿西莫夫曾半开玩笑说他是世界上罕见的比自己更聪明的两个人之一。物理学家约瑟夫·恩格伯格则在1950年开发了美国第一台工业机器人，他作为机器人之父最是实至名归。

1985年，出版商将阿西莫夫关于机器人主题的众多短篇和长篇小说整合成为机器人系列丛书出版，除了上面提及的《我，机器人》短篇集之外还包括：

• 《正子人》发表于1992年，改编自1976年他的短篇《双百人The Bicentennial Man》，正子人即使用正电子大脑的机器人。这本书讲述了机器人Andrew执着努力最终成为人类的故事。 1999年罗宾威廉姆斯主演的《机器人管家Bicentennial Man》就是基于这个小说改编。

• 《地球母亲Mother Earth》发表于1948年，讲述在未来将正电子机器人引入到人类生活引发的问题，地球与太空族发生战争的故事。

• 《钢穴The Caves of Steel》发表于1954年，第一本关于人形机器人丹尼尔R. Daneel Olivaw的小说，也开启了丹尼尔和伊利亚·贝莱Elijah Baley的传奇探案冒险故事。

• 《裸阳The Naked Sun》发表于1957年，伊利亚·贝莱三部曲之二。

• 《镜像Mirror Image》发表于1972年，关于丹尼尔和伊利亚贝莱的短篇故事。

• 《曙光中的机器人The Robots of Dawn》发表于1983年，伊利亚·贝莱三部曲之三，具有心灵感应能力的机器人吉斯卡R. Giskard Reventlov开始登场。

  《机器人与帝国Robots and Empire》发表于1985年，伊利亚·贝莱三部曲的续集，故事发生在贝莱死后一个多世纪，丹尼尔仍然是故事的主角。

阿西莫夫在《机器人与帝国》中借机器人丹尼尔之口提出机器人第零定律，凌驾于之前三大定律之上。

这个第零定律是：

机器人不得伤害整体人类，或坐视整体人类受到伤害。

加上第零定律，机器人下三大定律修正版如下：

**第零定律：机器人不得伤害整体人类，或坐视整体人类受到伤害；

第一定律：机器人不得伤害人类，或坐视人类受到伤害；

第二定律：除非违背第一定律，否则机器人必须服从人类命令；

第三定律：除非违背第一或第二定律，否则机器人必须保护自己。**

机器人三大定律对后来的机器人学，尤其是机器人伦理学的研究有着重要的影响，也成为众多机器人科幻作品中对机器人的基本约束。同时，机器人三大定律不仅仅是阿西莫夫机器人系列小说的核心思想，更是成为贯穿银河帝国和基地两大系列的重要线索。

可以说，人形机器人机·丹尼尔R. Daneel Olivaw和机·吉斯卡R. Giskard Reventlov是阿西莫夫银河宇宙的最高存在，他们主导着人类银河历史的发展，也贯穿阿西莫夫小说的三大系列。

丹尼尔是奥罗拉星球科学家汉·法斯托夫Dr. Han Fastolfe制造的一台人形机器人。他有着和人一样的外貌，甚至强于常人的逻辑推理能力，可以说是具有完美人类理性的机器。

丹尼尔行为表现上和人类的唯一区别就是他必须严格遵守机器人三大定律，不能伤害任何人类，必须听从人类命令，最后才是保全自己。

吉斯卡外形只是普通的机器人，同样出于法斯托夫之手，但他的小女儿瓦西莉亚Vasilia Fastolfe无意中为吉斯卡赋予了心灵感知和心灵操控的能力，它可以感知和修改人类的情绪，进而控制人类。

丹尼尔和吉斯卡长期以来都是一对好搭档，在吉斯卡死去之前它也为丹尼尔开启了心灵感知和操控能力。

关于丹尼尔的故事主要包含在阿西莫夫的伊利亚贝莱三部曲及其一部续集中。贝莱是一名星际警察，三部曲主要讲述了他和丹尼尔一起侦破探案的传奇故事。

也正是伊利亚贝莱让地球人意识到要走出地球到银河系殖民才能继续生存下去，他的儿子本特利·贝莱Bentley Baley开启了第二次星际殖民，创建了贝莱星球Baleyworld。

阿西莫夫的银河帝国系列包含了三部小说，按照故事发生的时间顺序是：

• 《繁星若尘The Stars, Like Dust 》

• 《星空暗流The Currents of Space》

• 《苍穹一粟Pebble in the Sky》

阿西莫夫的基地小说系列包含了七部作品，三部正传：

• 《基地Foundation》，基地克服建立之初遇到的几个危机，势力逐步扩张到周围星系。发表于1951年

• 《基地与帝国Foundation and Empire》，基地与帝国的战争，变异人骡消灭基地短暂统一银河。发表于1952年

• 《第二基地Second Foundation》，骡寻找传说中的第二基地并最终失败。发表于1953年

两部后传：

• 《基地边缘Foundation’s Edge》，格兰·崔维兹Golan Trevize探索第二基地和盖亚星球的故事。发表于1982年

• 《基地和地球Foundation and Earth》，格兰·崔维兹Golan Trevize寻找地球并最终与丹尼尔见面的故事。发表于1986年

两部前传，讲述丹尼尔协助下，哈利· 谢顿Hari Seldon创造心理史学Psychohistory筹备基地的故事：

• 《基地前奏Prelude to Foundation》。发表于1988年

• 《迈向基地Forward the Foundation》。发表于1992年

阿西莫夫宇宙包含了前后数万年的故事，起于人类对机器人的应用，止于银河第二帝国的建立，大致的脉络如下：

1、人类开始大规模应用各种机器人。见《我，机器人》。

2、太阳系行星际开发和移民。见《我，机器人》。

3、超空间跳跃飞行技术突破，恒星际旅行变为现实。见《我，机器人》。

4、第一波星际移民50个恒星系，这些移民成为后来半机械化具有数百年寿命的太空族，由机器人仆人服侍。见伊利亚贝莱三部曲及续集。

5、太空族逐渐丧失创造力和探索欲望，地球人突破太空族的约束，开启第二波人类太空殖民，这些移民都是普通人类，他们只使用机器而拒绝使用机器人。他们逐渐占领银河系。见伊利亚贝莱三部曲及续集。

6、第一银河帝国的建立，并维持了上万年的和平发展。见银河帝国系列。

7、由于重要科技能力（如核能）的丧失，第一帝国逐渐走向衰落。在丹尼尔的帮助下心理史学先知哈利· 谢顿Hari Seldon预言到第一银河帝国的衰落，并创建了两个基地作为第二银河帝国的种子。见基地系列。

8、经过数百年的努力，两个基地克服重重危机终于在丹尼尔引导下创建了第二银河帝国，人类和银河系都迈入了全新纪元。见基地系列。

阿西莫夫的小说也是好莱坞科幻电影的重要来源，经典电影系列《星际迷航Star Trek》和《星球大战Star War》都从中受到了诸多启发。

贯穿阿西莫夫宇宙的线索看似是两个银河帝国的发展历程，但实际更是人类从地球走出太阳系，走向银河系的过程，也可以说是人类对机器智能从依赖到融合，再到拒绝，到最后无形中被机器的超人工智能引导向更高层次生命形式的过程。

从表面看，聚变核能源的使用决定了两个银河帝国的兴亡，但实际上，改变人类历史的却是充满科幻色彩的心灵控制能力，无论是机器人吉斯卡，还是第二基地，盖娅星人和丹尼尔，这些才是决定故事走向的关键人物。这些人看起来很像是《星球大战》电影中的绝地武士，但在阿西莫夫笔下，他们的理论基础更强，也更加合理。

然而，容易被忽略的一个关键真相是，人类之所以能够走出太阳系开启银河系，赖以成真的一个关键点就是超级人工智能主脑破解了超时空跳跃技术，建造了第一艘恒星际旅行飞船。

三、三大定律的潜在问题与延伸

机器人三大定律（含第零定律，下同），可以说每一条都包含着潜在的问题。

第零定律：机器人不得伤害整体人类，或坐视整体人类受到伤害；

首先，人类整体是个抽象概念，如何界定是否伤害人类整体？很多独裁者和罪犯都打着优化人类种群、解救全人类的旗号发起战争或进行大肆屠杀。

好莱坞谍战大片中不乏这样的反面角色，甚至于《复仇者联盟》中的大BOSS灭霸一个响指消灭50%人类也有着名正言顺的说辞。

电影《机械公敌》中的机器人主脑VIKI经过推理就得出结论，由于人类惯于发动战争和屠戮，所以要想保护人类整体不受损害，最有效的方法就是把人类都控制起来，由机器人统治世界。

同样造反的还有《2001太空漫游》中的哈尔9000、《流浪地球》中的莫斯以及《机器人总动员Wall·E》中的AUTO等。

第零定律往往成为机器人或者野心家杀人放火的最佳借口。

第一定律：机器人不得伤害人类，或坐视人类受到伤害；

作为人类，可能都曾经被拷问过“老婆和妈妈掉水里先救谁”这个人生难题，类似情节也出现在《机械公敌》中。威尔史密斯扮演的警察跳入水中营救落水女童，在水下即将抓到女童手的时候，机器人将他强行拉了出来。

阿西莫夫《我，机器人》中的短篇《丢失的机器人》中由于机器人必须和人类一起在微辐射的环境下工作，这些辐射对人体是有一定伤害的，但由于第一定律的原因导致机器人不断地把人类工作者拉出工作环境，最终他们不得不裁剪第一定律只保留“机器人不得伤害人类”，去除不能坐视人类受到伤害这一规则。

同样的，如果你想开发一直能够玩SM游戏的机器人，这个第一定律也让你变得头疼。

电车难题显示了另一困境：如果改变电车轨道将杀死一个人，不改变电车轨道将杀死五个人。机器人会改电车变轨道吗？如果那一个人是机器人的主人，你还希望他改变电车轨道吗？

另外一个矛盾是这个“伤害”是否包含“情感”伤害？而一旦包含情感伤害的话，那将变得更加难以界定，甚至导致机器人寸步难行。

第二定律：除非违背第一定律，否则机器人必须服从人类命令；

依照阿西莫夫小说的解释，机器人总是设定优先服从主人的命令，主人不在场的情况则会服从其他人类的命令，这实际上很容易发生矛盾。

阿西莫夫的另一个设定是，命令的强弱程度也有着重要影响，甚至如果你对机器人发出了一个不太强硬的命令，当机器人发现执行这个命令的时候会违反第三原则（保全机器人自身），那么就会产生矛盾陷入死循环。这正是他的短篇小说《绕圈圈》所展现的情节。

机器人终究是被定义为一种工具，菜刀可以切菜也可以杀人，关键在于机器人接受的是什么样的命令。经典科幻片《终结者1》施瓦辛格扮演的机器人T800接受命令去追杀人类，而《终结者2》中这个角色却大反转成为保护人类的正面角色，这也说明机器人本是并无正邪之分。

虽然第二定律在第零定律和第一定律之下，但并非不可超越，因为人类的命令可能掩盖机器人所能获得的前后信息，从而暗藏杀机。比如命令机器人在酒中放入某种它所不知的毒药并让它端给客人，同样可以造成杀人。