小议人机混合的困难

​

斯图尔特·罗素（Stuart Russell，加州大学伯克利分校计算机科学专业教授，著有人工智能领域“标准教科书”——《人工智能：一种现代化方法》）认为：数学方法可能无法作为人工智能系统的正式验证方法。在数学专业里有个术语，叫做“不可判定性”。在你所问到关于计算机程序的很多问题之中，其实都存在这样一个普遍的“不可判定性”问题。著名的计算机科学之父，也是人工智能之父阿兰·图灵说过，没有计算机程序能够决定是否存在任何其他可能的程序可以最终终止，并输出一个答案，或是陷入到一个无限循环之中。因此，如果你开始了一个程序，但是它自身可以重写，变成另外一个其他程序，那么就会产生问题，因为你不能证明所有其他可能的程序会让一些“所有权”满意。所以问题就是：是否有必要担心那些能够自我重写的人工智能系统的不可判定性？它们会基于现有程序，加上它们在真实世界中的经验，自我重写成一个新的程序。在下一个程序如何设计的问题上，与真实世界交互的影响范围可能性又是什么？目前，我们貌似还没有太多这方面的知识。

数据与知识的形成、使用、协同都是主客观混合的过程，人机混合的核心问题也就是主客观如何有效混合的问题，所以单纯使用客观手段很难实现对其根本性的理解、发现。不同的数据结合不同的知识可以产生相同的等价结果，可计算性完成了正向过程，而可解释性需要完成其逆向过程，由于逆向过程的相对无限性（尤其对于当前数学的一义性和不完备性而言），所以事物的发展常常会不可解释的，这也是稍大一些的机器学习和知识图谱不可解释的根本所在。因此，对于人机之间的互学习，目前仍是一个不能实现的问题，究其因，机器学习不能实现人类学习中所能够产生的一系列的隐性知识、规则与秩序。

​

算计是没有数和图的计算，即没有数学的计算。

人机混合的学习、选择、判断难在混合上，不同事物之间的混合需要内外力的共同作用，而机的“内力”不够。