超级人工智能将如何导致人类灭绝或永生

读《有生之年，超级人工智能将如何导致人类灭绝或永生？》有感
1历史选择的拐弯点

人工智能很可能导致人类的永生或者灭绝，而这一切很可能在我们的有生之年发生。我们正站在变革的边缘，而这次变革将和人类的出现一般意义重大 – Vernor Vinge如果你站在这里，你会是什么感觉？看上去非常刺激吧？感觉你马上就可以站在风口上，做一番大事业，然后走上巅峰人生吧。但是你要记住，当你真的站在时间的图表中的时候，你是看不到曲线的右边的，因为你是看不到未来的。所以你真实的感觉大概是这样的：
稀松平常，因为历史实在是太长了，而人的一生却仅仅约等于100年。所以，有时候我们站在了突变的转折点上，但是由于历史的局限性，我们并不知道接下来是一场足以改变世界的大风暴，或则你刚刚好站在了突升点上，每一秒都以巨变。

文章的一个例子：
遥远的未来——就在眼前想象一下坐时间机器回到1750年的地球，那个时代没有电，畅通通讯基本靠吼，交通主要靠动物拉着跑。你在那个时代邀请了一个叫老王的人到2015年来玩，顺便看看他对“未来”有什么感受。我们可能没有办法了解1750年的老王内心的感受——金属铁壳在宽敞的公路上飞驰，和太平洋另一头的人聊天，看几千公里外正在发生进行的体育比赛，观看一场发生于半个世纪前的演唱会，从口袋里掏出一个黑色长方形工具把眼前发生的事情记录下来，生成一个地图然后地图上有个蓝点告诉你现在的位置，一边看着地球另一边的人的脸一边聊天，以及其它各种各样的黑科技。别忘了，你还没跟他解释互联网、国际空间站、大型强子对撞机、核武器以及相对论。这时候的老王会是什么体验？惊讶、震惊、脑洞大开这些词都太温顺了，我觉得老王很可能直接被吓尿了。但是，如果老王回到了1750年，然后觉得被吓尿是个很囧的体验，于是他也想把别人吓尿来满足一下自己，那会发生什么？于是老王也回到了250年前的1500年，邀请生活在1500年的小李去1750年玩一下。小李可能会被250年后的很多东西震惊，但是至少他不会被吓尿。同样是250来年的时间，1750和2015年的差别，比1500年和1750年的差别，要大得多了。1500年的小李可能能学到很多神奇的物理知识，可能会惊讶于欧洲的帝国主义旅程，甚至对于世界地图的认知也会大大的改变，但是1500年的小李，看到1750年的交通、通讯等等，并不会被吓尿。所以说，对于1750年的老王来说，要把人吓尿，他需要回到更古老的过去——比如回到公元前12000年，第一次农业革命之前。那个时候还没有城市，也还没有文明。一个来自狩猎采集时代的人类，只是当时众多物种中的一个罢了，来自那个时代的小赵看到1750年庞大的人类帝国，可以航行于海洋上的巨舰，居住在“室内”，无数的收藏品，神奇的知识和发现——他很有可能被吓尿。小赵被吓尿后如果也想做同样的事情呢？如果他会到公元前24000年，找到那个时代的小钱，然后给他展示公元前12000年的生活会怎样呢。小钱大概会觉得小赵是吃饱了没事干——“这不跟我的生活差不多么，呵呵”。小赵如果要把人吓尿，可能要回到十万年前或者更久，然后用人类对火和语言的掌控来把对方吓尿。所以，一个人去到未来，并且被吓尿，他们需要满足一个“吓尿单位”。满足吓尿单位所需的年代间隔是不一样的。在狩猎采集时代满足一个吓尿单位需要超过十万年，而工业革命后一个吓尿单位只要两百多年就能满足。未来学家Ray Kurzweil把这种人类的加速发展称作加速回报定律（Law of Accelerating Returns）。之所以会发生这种规律，是因为一个更加发达的社会，能够继续发展的能力也更强，发展的速度也更快——这本就是更加发达的一个标准。19世纪的人们比15世纪的人们懂得多得多，所以19世纪的人发展起来的速度自然比15世纪的人更快。即使放到更小的时间规模上，这个定律依然有效。著名电影《回到未来》中，生活在1985年的主角回到了1955年。当主角回到1955年的时候，他被电视刚出现时的新颖、便宜的物价、没人喜欢电吉他、俚语的不同而震惊。但是如果这部电影发生在2015年，回到30年前的主角的震惊要比这大得多。一个2000年左右出生的人，回到一个没有个人电脑、互联网、手机的1985年，会比从1985年回到1955年的主角看到更大的区别。这同样是因为加速回报定律。1985年-2015年的平均发展速度，要比1955年-1985年的平均发展速度要快，因为1985年的世界比1955年的更发达，起点更高，所以过去30年的变化要大过之前30年的变化。进步越来越大，发生的越来越快，也就是说我们的未来会很有趣对吧？未来学家Kurzweil认为整个20世纪100年的进步，按照2000年的速度只要20年就能达成——2000年的发展速度是20世纪平均发展速度的5倍。他认为2000年开始只要花14年就能达成整个20世纪一百年的进步，而之后2014年开始只要花7年（2021年），就能达到又一个20世纪一百年的进步。几十年之后，我们每年都能达成好几次相当于整个20世纪的发展，再往后，说不定每个月都能达成一次。按照加速回报定，Kurzweil认为人类在21世纪的进步将是20世纪的1000倍。如果Kurzweil等人的想法是正确的，那2030年的世界可能就能把我们吓尿了——下一个吓尿单位可能只需要十几年，而2050年的世界会变得面目全非。你可能觉得2050年的世界会变得面目全非这句话很可笑，但是这不是科幻，而是比你我聪明很多的科学家们相信的，而且从历史来看，也是逻辑上可以预测的。
S曲线发生在新范式传遍世界的时候，S曲线分三部分- 慢速增长（指数增长初期）- 快速增长（指数增长的快速增长期）- 随着新范式的成熟而出现的平缓期如果你只看近期的历史，你很可能看到的是S曲线的某一部分，而这部分可能不能说明发展究竟有多快速。1995-2007年是互联网爆炸发展的时候，微软、谷歌、脸书进入了公众视野，伴随着的是社交网络、手机的出现和普及、智能手机的出现和普及，这一段时间就是S曲线的快速增长期。2008-2015年发展没那么迅速，至少在技术领域是这样的。如果按照过去几年的发展速度来估计当下的发展速度，可能会错得离谱，因为很有可能下一个快速增长期正在萌芽。添加链接描述
5年前的你，可能会认为假如你没带现金出门，肯定会被饿死一样，而现在的你，只需要一部手机+网络，你基本可以实现出行吃住，所以可以判定，互联网的到来，给我们带来了一次S曲线的快速增长期。
而如今的人工智能发展更是在提供另一个快速上升的S曲线，而且这个弧度及其的大,而我们站在历史的起始点，也不能很好的保证说，我们能预测到他未来会发展到哪个细节，然后又衍生出多少新的S曲线。
因此人工智能会是接下来几十年（或则10年内）的爆炸点：

2通往超级智能之路

人工智能是什么？人工智能已经不再是本子上和电影上的事情了。现在很多现实的技术采用了电脑自我学习将图片转换为某个画家的风格，人脸识别等，均应是人工智能在生活中的应用了，当然这些仅仅属于弱人工智能。
我们按照人工智能的实力将其分成三大类。弱人工智能Artificial Narrow Intelligence (ANI): 弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能，但是它只会下象棋，你要问它怎样更好地在硬盘上储存数据，它就不知道怎么回答你了。强人工智能ArtificialGeneral Intelligence (AGI): 人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能，人类能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多，我们现在还做不到超人工智能ArtificialSuperintelligence (ASI): 牛津哲学家，知名人工智能思想家NickBostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点，也可以是各方面都比人类强万亿倍的。
现在，人类已经掌握了弱人工智能。
可是为什么人类掌握下一个阶段的强人工智能那么地艰难呢，因为我们正在处于知识积累阶段，而历史的这个时候，经历了前面几次的知识大爆炸后，我们的积累阶段时间再大大的缩短，也即是，强人工智能的转折点即将到来，而且就是这10年内的事情，而强人工智能和超人工智能之间可能并没有技术屏障，因为除了人类，这个时候的超级计算机也作为一员在进行知识积累，而且是24小时不断地工作，每秒中的计算量或则知识积累量可能>=历史中人类积累的总和。
目前发展的现状如下：造一个能在瞬间算出十位数乘法的计算机——非常简单造一个能分辨出一个动物是猫还是狗的计算机——极端困难造一个能战胜世界象棋冠军的电脑——早就成功了造一个能够读懂六岁小朋友的图片书中的文字，并且了解那些词汇意思的电脑——谷歌花了几十亿美元在做，还没做出来。一些我们觉得困难的事情——微积分、金融市场策略、翻译等，对于电脑来说都太简单了我们觉得容易的事情——视觉、动态、移动、直觉——对电脑来说太TM的难了。
一旦上面对于计算机来讲很难的事情均一一突破后，超级智能之路就已经到来了。

3我们该怎么样才不会被淘汰 随着这些年人工智能岗位的大热，相信上图的点，来临的时间只会加快，而不会变慢。 在我们深入讨论这个问题好坏之前，也许我们压根就不知道这个点的来临是好是坏，因为他可能给人类带来了极大有好处的未来文明，也有可能带来了人工智能统治人类，物竞天择，人类被淘汰。 历史走了几千年，才发展到了人类现在有了智商，可以创造不存在的东西，而地球发展了几亿年，从一团灰层，进化到了有智慧的生命，或许人工智能是这个宇宙几十亿年的发展趋势。以前的以前，我们只和一个镇的人有联系，到有了国家，然后发现了洲，到地球村的概念，这之中都是生产力和交通的变革，而今另外的星球就像那时候，我们对新大陆的未知一样，人工智能的出现，或则就是要造一艘整整能够发现新星球的生产力一样。
未来充满着不确定性，而历史不会欺骗你。