AI算法 真的能算出人类的欲望吗？

https://www.toutiao.com/a6686069891713221132/

 

 

 

假期里，闲着也是闲着，我们聊点烧脑的话题。

以前，我给一家朋友的机器人公司写过一个《AI时代的爱情》短篇故事。大致内容是下面这样：

未来，AI在各个领域全方位碾轧人类，又或者一部分人成为AI人。他们的人生完美、可预测、尽在把握。结果，AI反而开始珍惜传统人类的愚蠢、非理性、情绪化。AI如豢养宠物般豢养人类，并以娶了或嫁给人类为奢侈的“上流生活方式”。

毫无差漏地运行了一天之后，AI回到家中，眼巴巴地看着宠物人类的喜怒哀乐、逻辑混乱的决策、毫无来由地幻想。对AI而言，这犹如服用致幻剂。第二天早晨，AI们相逢，话题就是自己宠物人类不可思议、无法计算的言行。

你知道吗？昨天我那个人类老公睡觉打呼噜了。

哇，好酷啊，快重放一下视频给我们看看。

他早上做早餐的时候还耍了点儿脾气...

真的吗？能不能分享一下他的情绪数据啊，我好训练一下自己的AI老公，他完美得太无趣了......

毫无疑问，本人对科技进步是十分关注的，以至于对AI技术一直有好奇。今天就聊一下AI算法能算出人类的欲望吗？

 

 

众所周知，围棋是中国少有的“数目化事物”，它既有西式的精确量化，又有东方的混沌哲学。所谓大局观、天才的感觉、石破天惊的一手，都被认为是计算无法企及之处，是围棋的神秘魅力。

围棋的局部变化，大多是有唯一解的，可以用精确的推理“还原出来”。但是涉及到全局，很多时候没有“最优解”，走在哪里，取决于棋风和感觉。正因此，人们说，围棋是技术的，也是艺术的。艺术的那部分，被认为是高手的灵性的部分，代表了某种难以被描述、无法被计算的人类独特智慧。这也是棋手们的自豪之处。

然而，阿尔法狗一夜之间摧毁了人类的幻觉。

AI在围棋上战胜人类顶尖高手，基本证明了所谓的“棋感”、“棋风”、“大局观”等围棋高手所谈论的虚的能力，并不是人类独有的，经过训练的神经网络也会有。所以，随着技术的进步，电脑也会能够欣赏艺术（音乐、画作、小说、笑话），能够创作文学、艺术作品，能够针对不同的情况形成自己的“情绪”。

现在看来，所谓人类的灵性，可能只是大脑事后的包装。

 

 

象棋是个毁灭性的游戏，棋子越来越少，游戏也变得越来越简单。围棋是个建设性的游戏，开始棋盘是空的，子越下越多。围棋需要对不确定性的未来作出判断，这点很难。顶尖高手的确需要一流的“直觉”。于是，阿尔法狗的设计者通过深度神经网络模仿人类的这种直觉行为。

“一切皆计算”，在科技界，直觉也是可以被计算的。

图灵与其追随者们证明了：理性可以通过物理计算过程实现；简单的机器可以完成任何计算；由简化过的神经元搭建而成的神经网络可以实现很复杂的功能。他们认为，大脑的认知特性可以用物理术语来解释：

信念--不过是一种信息；

思考--只是一种计算过程；

动机--则是一种反馈和控制系统。

以上概念转化为文学语言，就是：哪里有什么爱情，压根儿就是生殖冲动！

 

 

我观察到一个现象，比如阿尔法狗算法只说怎么下棋，但不负责解释为什么。AI靠模仿人类下棋的直觉赢了人类，但是它们没有学会像大师一样，能够给弟子们讲解棋道，棋理，以及具体局面的招数变化和计算。确切说，即便AI解释了人类也不懂。所以，它只给出答案。

不久之前，AI的大部分从业者仍是通过逻辑来处理AI技术。例如深蓝的团队里，还是需要职业棋手的介入。但现在呢？受益于计算力的大幅提升，通过庞大的神经网络，用巨大的矢量来表示内部含义，不再采用逻辑推理的方法，人们让神经网络自己学习。

一切都变了，这是一个质的飞跃。

与传统机器学习不同，深度学习是由AI直接从事物原始特征出发，自动学习，生成高级的认知结果。在输入的数据和其输出的答案之间，存在着“隐层”，即所谓“黑箱”。这个黑箱既无法观察，亦无法理解。即使AI能够解释，我们也不懂。

假如计算机是在模仿大脑，算法出现黑盒子也不奇怪。人的大脑更是一个无法理解的黑盒子，甚至是人类意义上，这个宇宙中最黑的黑盒子。

 

 

大脑最神奇之处，也许在于它会思考自己。

历经40亿年从单细胞开始的进化，采用扔骰子和修修补补的工作方法，我们的大脑得以拥有如今这个面貌。大脑的愚蠢之处就不必说了，普通人没法用它算一个两位数乘法，没法用它在茫茫人海中避开一个渣男，甚至没法用它来利索地决定今天吃啥。

而大脑的厉害之处，则令整个宇宙惊叹。

物理学家劳伦斯·克劳斯说：尽管计算机的存储和运算能力在过去的40年时间里有了指数级的增长，但是能思考的计算机需要一个与现在的计算机几乎毫无相似之处的数字架构。它们也不可能在短期内变得有竞争意识。原因只有一个：能耗。

 

 

他做了一个计算：鉴于电子计算机目前的功耗，一台拥有人类大脑存储和运算能力的计算机将会需要超过 10太瓦的能量。这个数字什么概念？占到了全人类电能消耗总量的两成。

而人脑呢？只消耗 10瓦能量。二者相差1万亿倍。抛开这些，大脑里的神奇装置，是这个宇宙里比黑洞还要黑一千亿倍的秘密。又或许，宇宙不过是某个人大脑的快照？

快乐和悲哀可以计算吗？

机器会有同情心吗？

人工智能可以理解痛苦吗？那种真正的痛苦。

它们能够分不清生殖冲动和爱吗？

分清很容易，有本事你也分不清试试看！

机器会有动机吗？

人工智能会赋予那些没有意义的意义吗？

例如将教堂里的分子结构并无差别的水视为圣水。

一旦进入大脑层面，这些问题就更加复杂。因为构建物质世界和精神世界彼此间的因果关系，看起来相当虚无缥缈。

 

 

对于每一秒的输入，人类大脑大概有一万个参数来处理。如此庞大的系统，其如何工作？并且能耗如此之低？我们认为自己理解自己的大脑，是因为大脑有一部分专门来给自己讲故事，让你自己觉得一切都是连贯的，世界是有前因后果的。

AI只计利害，不问是非。然而，何谓“因果关系”？也许正如我们只不过发展了一个思考习惯，把总是前后相继的两类客体或事件联系起来，除此之外，我们无法感知到原因和结果。

因此，AI有助于人类对大脑的开发。也许会发展出某种模式与人类沟通，就像我们大脑深处的“自我意识”。如此一来，它若想要欺骗我们，会把我们骗得非常舒服。

假如，AI确实有欺骗我们的动机的话。

我很高兴这些问题没有答案，我也不介意人类就是生活在一个虚拟网络里的幻想。嘿，这是谁干的？你的手艺真棒，一切都太真实啦！

 

 

人类还远没到要抛弃大脑的时候。在漫长的进化进程中，我们还是那么蠢也许是有原因的。即使将来AI真的统治了这个世界，也许依然会豢养人类来获取某种随机性，以及不稳定的情绪体验。

此外，在我们的有生之年，该担心的不是机器变成人，而是人变成机器。

我们要在算法和心法之间，腾出地方，交给AI，人类自己则继续向未知世界探索，利用碳基生物与生俱来的那种无知和混乱所带来的进化契机，结合AI进化加速力量，发现遥远宇宙的秘密，寻求更长的寿命，甚至在时间的深处找回我们失去的记忆和亲人。

同时，克服贪婪，避免自我毁灭。洗洗睡吧，晚安。

 

 

题外话，敲黑板！

从世俗的角度理解，智慧可分为两种：一种是用来适应和征服世界的，例如投机家，成功人士，名利场上的赢家，苟且偷生者。一种是用来理解和预测未来的。例如科学家，经济学家，理论信奉者，第一性原理信奉者，捍卫因果论的斗士。

有些人飞翔其间，有些人两边行骗。

前者强调大自然的算法，以及有效地适应环境。对环境、资源、不确定性、反脆弱，有着惊人的直觉；后者追求精确的公式，优雅地诠释经验。而在我看来，我赞成巴黎矿院前任校长雷蒙德·费斯彻赛尔对智慧的定义：

“有效地关注重要之事。这样的智慧，因为反思、理解并欣赏生活而伟大，并不仅仅因为掌控生活而伟大。”

《经验的疆界》一书认为，从经验中获取智慧的模式可以分为两种：

第一种模式，低智学习。是指在不求理解因果结构的情况下复制与成功相连的行动；第二种模式，高智学习。是指努力理解因果结构并用其指导以后的行动。

实际的学习是两种模式兼而有之，尤其是厉害的人，两头都很强。就问你怕不怕？