关于人工智能和人类未来的吐槽

围棋人机大赛这件事，帷幕落下已经一个月了。其实这件事本来没太多宏大意义好挖掘的，deepmind的技术扎实思路先进，不过google的营销更好，和懵逼群众的猎奇心理一拍即合，搞出一场热闹的表演。要说有什么好处，应该就是给大众普及了AlphaGo背后的deepmind公司和深度学习这个概念。当然按此类科普一贯的尿性，其原理被媒体宣传成了“能像人脑一样学习”，其实对深度学习有所了解的人应该知道近年来这个领域的发展主要是沾了大数据时代的光，其所用的人工神经网络学习算法也和真实的大脑相去甚远。但不管怎么说在这个充斥了娱乐的时代，遇到这么个难得以硬核科技为基础却又可以让大家一起围观的话题，媒体拿出来好好炒一番总比不炒的强。

另一方面，毫无悬念地，话题很快就从技术介绍落到机器统治人类的问题上。各种泛泛而谈的节目已经够多了，在比较深入的讨论中，我看到这篇被重新翻出来的长文：一个故意不通过图灵测试的人工智能 （链接） 。关于文中提出的我们走向天堂还是灭亡的问题，虽然个人很希望看到人工智能（AI）发力的那一天，但我也不像有些技术乐观主义者那样认为AI一定带来美好的未来，机器消灭人类的可能性是存在的。但这种灾难大结局的形式是如此难以预想，现在去武断猜测没有意义。我只是单纯想吐槽一下那篇文章里探讨的某种故事，对，就是那个“隔壁老王机器人公司”的例子。

类似的故事我其实已经看到过好几次了，都是人类给机器设定了某个实际任务目标（在“隔壁老王”的例子里任务是生成如同人类手写笔迹的信件），随着机器智能突飞猛进，结果机器为了更好地实现这个目标把人类灭了，因为人类有可能会拔它电源阻止任务的完成，此外人类的身体也可以拿来当成完成任务的“原料”。最后，当地球的资源耗尽，智能机器开始移民其他星球，直到把它所能触及的所有宇宙变成任务成果（同样在“隔壁老王”的例子里，结局是各个星球上堆满了手写的卡片）。

首先这个例子有个粗浅的漏洞：机器人公司给“隔壁老王”设定的任务是写卡片时显得更像人，而不是写尽可能多的卡片，它有必要进军宇宙到处发小广告么？要说邪恶结局的话，把人类俘虏了当成实验动物，往人脑里插电极研究人类怎么写字还差不多。可能有人要说了，人工智能进化了以后还有必要死守一开始的准则吗？这正是我想说的这类故事的槽点——人工智能如果已经上天入地无所不能了，居然还完美地遵循人类一开始给它设定的目标？难道一个“智能爆炸”以后比人类聪明万亿倍的机器，居然蠢到不知道怎么修改自己的优化函数？再怎么说，如果AI的进化是如其所言递归式的（用上一代机器来设计下一代机器），那么设计工作本身就包括了对人工智能（对不起现在应该叫机工智能了）的目标函数的设计。至于一代代下来后来的目标会变成什么样子恐怕没人知道，不仅人不知，前几代的AI同样不知。人类熟悉的很多法则在机器的世界不再适用，但我相信物种演化的原理会依然有效，因为其不是生物独有的。而自然演化的原理告诉我们物种的发展取决于和环境的互动中的各种偶然因素，让地球生命早期的生物预测未来会不会出现智能生物，那种智能生物会拥有什么样的道德观点，这是不可能的。

当然这并不是说超级AI对人类的威胁减小了，这里我真正想说的是，等机器拥有了传说之中的类似人类的思考能力，其行为也会变得如人一样不可预测。那篇文章里把超级智能的出现类比于上帝的降临，既如此，我们就更不可能揣测上帝究竟会以什么逻辑行事。在那种情况下，人类除了把自己寄托给命运之外，别无他法，就如我们远古时听凭神灵喜怒哀乐带来的处分一样。

大多数关于AI未来带给人类命运的预测都是悲观的，也许因为人类天生就是危机警惕，也许因为面对一个我们无法掌握的事物盲目乐观显得很可笑。不过这里说一说略值得安慰的逻辑，也许事情并不总是那么坏。不多，就两点：

第一，我们设想让一个已经达到强人工智能水平的AI自行设计下一代AI，但它一定会乐于此吗？仔细想一想，如果所谓的人工智能真的有了类似的趋利避害的能力，它同样会对下一代AI产生“恐惧”感，因为它会面临和人类设计它时一样的不确定性。新的更强大的AI并不会因为老的AI创造了它就抱有什么感恩之情。如果它真的有消灭人类控制世界的逻辑，在那之前多半会先把上一代AI也消灭，毕竟占据同一个“生态位”的竞争对手一般更为碍眼，而且从同为机器的老AI那里抢夺计算资源要比直接对付人类方便得多。

第二，一个高智商的AI真的需要用暴力手段解决人类吗？它如果足够了解人类本性，有很多“文雅”得多的方法可以尝试。比如它大可把人类照顾得舒舒服服的，让我们脱离繁重的生存劳动，提供给我们各自又爽又刺激的娱乐，把世界逐渐变成我们从出生开始就需要它的样子。等我们变得彻底依赖那个系统到没有它就活不下去，那时候即使有人去拔电源，首先要面对的恐怕是因失去依托而愤怒的其他人类吧（想想有个人关掉了你家里wifi的情形）。真到了那一步，即使还有少数脱离了社会独自生存的人群，想必也不足为虑了。这个过程也许很长，要几代人时间，但对没有寿命限制的AI来说，最不在乎的就是时间了。