恐怖谷！从「人工智能」与「人类智慧」之间看出差别

在人工智能崛起的现在，你希望看见甚么样的未来？当人工智能超越人类时，人类该何去何从？人工智能对犯罪、战争、司法、工作、社会将造成甚么影响？又会带给生而为人的我们甚么感受？《LIFE 3.0》将毫不隐讳呈现这个最具争议性话题的全方位观点，举凡超人工智能所代表的意义，意识究竟是怎么一回事，甚至是宇宙生命发展最终的物理法则定律极限，包罗万象的丰富内容，尽皆收录在《LIFE 3.0》中。

迎接人工智能时代，你我都该上的 30堂必修课

什么是「智慧」？「智能」是「达成复杂目标的能力」

我太太和我前不久有幸出席一场关于人工智能的研讨会，其中一场专题演讲中，顶尖的人工智能专家被问到要怎样定义智慧时，花了很长的时间交换意见，结果没有取得共识。

这让我们俩觉得满有趣的：就连研究智慧的聪明专家也都没办法定义什么叫做智慧！这就表示智慧的定义并没有「标准答案」，而是有各种不同的说法，其中包括逻辑的强度、理解能力、规划能力、情绪控管、自我意识、创造力、解决问题的能力、学习力等等，不一而足。在进入探讨智慧之前，我希望先提出一个最广义、最笼统的定义，而且不要被现有的智慧形式定型了。

智能 ＝ 达成复杂目标的能力

这样就可以满足种种不同的定义，因为不论是理解能力、自我意识、解决问题的能力和学习力，都可以算是复杂目标。这个定义也与《牛津字典》的讲法：取得与运用知识和技能的能力，并行不悖，只要把运用知识和技能设定成复杂的目标就行了。由于复杂目标多到族繁不及备载，所以就会有各种可能的智慧。依照我们的定义，用智商这样单一的数字量化人类、动物或是机器的智慧高低，就会变成没有意义。只会下西洋棋的计算机跟只会下围棋的计算机，哪一台比较聪明？这个问题的答案不会有意义，因为这两者擅长的项目不同，无法直接比较，不过如果有第三台计算机，能以同样的水平达成所有目标，而且会有一项表现得比其中一部计算机更好（像是能下赢西洋棋），那么说第三台计算机比较聪明，就没有多大争议了。

计算机特定能力超专精 vs 人类的广泛智能──迈向「通用人工智能」

IBM 深蓝计算机专门用来下西洋棋，在 1997 年还击败过世界棋王卡斯珀洛夫（Garry Kasparov），不过它只能达成下西洋棋这么有限的目标——别看深蓝计算机的软硬件设施有多么厉害，事实上它就连跟四岁的小朋友玩井字棋都会输。人类的智慧与之相比就广泛得太多了，熟练几十种令人叹为观止的技巧都不是问题。只要给头好壮壮的小孩子够多的训练，别说任何游戏都能来上一手，还有能力开口说任何语言、从事任何运动跟职业。以现阶段人类和机器的智慧相互比较，如下图所示：

我们轻而易举就能大获全胜，机器只能在少数有限的范围内赢过人类，只是项目正持续增加。研究人工智能的终极目标是打造「通用人工智能」，尽可能扩大广泛的范围：几乎可以达成任何目标的能力，包括学习在内。假定你将来拥有做为个人助理的全新机器人，这个机器人没有自己的目标，完全依照你的吩咐行事，而你要求它准备一顿丰富的意大利佳肴。收到指令的机器人开始上网搜寻意大利食谱、找出最近的超市去采买、学习怎样做意大利面，如此这般。最后它顺利买回食材弄出大餐，酒足饭饱的你想必会认为它聪明得可以。

实际上，这顿饭原本就是你设定的目标，机器人则是在你提出要求后，接收了你的目标，然后井然有序替自己设定了好几个子目标，包括超市结账和磨碎帕马森干酪都算在内。在这个案例中，能否使命必达是判定智慧行为与否的必要条件。对我们人类而言，工作的困难度理所当然会跟我们要付出多大代价去完成有关。但是将这种标准套用到计算机上就不适当了。要我们算出 314,159 乘以 271,828 可比认出照片中的朋友难多了，但是计算机早在我出生以前，就展现出远远超出人类的算术能力，但直到最近才开始有办法像人类一样辨识图像。莫拉维克悖论（Moravec paradox）指的就是这种看似简单的感受能力，背后其实却需要耗费庞大运算资源的现象，也说明了为什么人类的大脑能轻松完成辨识工作，因为我们投注了庞大的客制化硬件设施在这个领域—确切的规模超过我们脑容量的四分之一。参考信息来源：http://partner.henkel.com.cn/local/index.php

莫拉维克的「人类能力地貌图」，计算机潜力已抵达山脚

计算机是万用的机器，拥有完成任一种工作项目的潜力，人类的潜力相较之下，会在需要长期维持重要性的领域表现得比较强，小事当然没打算放在心上。想象一张「人类能力地貌图」，我们可以在低洼地区标上「算术」和「死记硬背」，在山脚处标上「定理证明」和「西洋棋」，在高山顶标上「剧烈运动」、「手眼协调」和「社交互动」，那么计算机的进展就会像是慢慢淹过地表的洪水。

自从他留下这段文字后不过几十年，如他所预期，海平面加速上升，彷佛遇到强力的全球暖化，当年他笔下的山脚处，有些（好比说是西洋棋）早就已沉到海水里一段时间了。随着海平面持续上升，或许有一天会淹过某个引爆点，引发翻天覆地的变化。对机器而言，这个关键海平面，就是学会自行设计人工智能之时。在海水漫过这个标高位置之前，海平面的上升都是人类改善机器的缘故，超过这个高度以后，海平面的上升就会是机器改善机器的结果，而且极有可能以破纪录的方式，超越过去人类改善机器的速度，在短时间内吞没所有地表。这个神奇又众说纷纭的概念叫做「人工智能爆炸奇点」。

半世纪以前，计算机从低洼处开始，淹过了徒手计算和记账的工作，不过那时我们大多数人都还是站在陆地上，现在洪水已经抵达山脚，我们得认真看待此地失守的问题。站在山顶上看似安全，不过，如果洪水泛滥的速度维持不变，这些阵地大概再过半世纪以后，也会无一例外的沦陷。我想，在那天到来之前，我们要先准备好诺亚方舟，早点习惯在海上的生活才行！

转载于:https://my.oschina.net/u/3695307/blog/2964134