从深蓝到Alpha Go先后击败人类棋手,从简易的机械机器人到如今能够深度学习的AI。人工智能领域的快速发展是我们始料未及的。人工智能正以前所未有的态势汹涌而来,一方面是风投和创业创新,人们都把人工智能当做了下一个尚未被开垦的宝地;另一方面是应用,比起概念盛行的阶段,现在的无人车、家庭机器人等已经把人工智能技术带到了“看得到摸得着”的境地。我们知道,机器人的行为模式通常是以完成预设指令为目的,而在这个过程中,它会对自我有保护机制,甚至不惜清除完成这条指令的途中所遇到的障碍等等。因此,在人工智能领域仍然存在着诸多质疑和争议。
人们对其中的道德伦理以及人类自身未来也产生了深深的担忧:人工智能会不会取代人类劳动力?人工智能会不会伤害人类?会不会使人类文明走向灭亡?
其实有关人工智能中的道德伦理的思考,早在许多年前就已经有所涉及。著名科幻作家阿西莫夫在对机器人三定律的科学幻想中,就提出了通过内置的“机器伦理调节器”使机器人成为服从道德律令的类似构想。在短篇科幻小说《转圈圈》(1942)中,阿西莫夫提