关于人机融合智能的一点思考

    没有历史和反思，人与机没有区别！未来，自主机器的因果、伦理关系与人类的因果关系将会有很大的差异。其根本就是事实与价值之间的相互作用问题，即being与should的关系问题。智能问题归根结底还是一种“人”学，不是“机”学！

1     引言

近年来，得益于机器学习的成熟，以及大数据时代数据和高性能计算/云计算的支持，人工智能(Artificial Intelligence, AI)取得了突破性的进展，尤其是深度学习概念的提出和发展^[1]，以及和强化学习技术的结合应用，使得人工智能实现了在单一领域超越人的智能，诸如图像和语音识别领域^[2-5]，脑科学研究^[6]，以及基因科学等^[7]。尤其是DeepMind打造的AlphaGo智能体在围棋领域以4:1战胜世界围棋冠军^[8]，以及后续的AlphaGo Zero更是在无任何人类输入的情况下战胜了AlphaGo，在完全信息博弈领域彻底的取得了超越人的智能，引起轩然大波。OpenAI打造的 OpenAI Five更是在Dota 2游戏平台，在非完全信息博弈的战场环境下，5 vs. 5战胜了具有职业水平的玩家队伍^[9]。

然而，当前的人工智能难以突破单一领域的限制，从而构建具有通用属性的强人工智能，究其原因是其难以突破意识的壁障，进行具备因果关系的推理 ^[10-11]。为实现强人工智能，中国学者提出研究融合了人工智能计算属性和人的认知属性的混合智能^[12-14]。同时斯坦福大学发布2030人工智能生活报告，也将人机相互补偿和增强的智能协同系统列为未来人工智能的重要发展趋势之一^[15]。而且，为了实现人类智能与机器智能的深度融合并协同工作，国内外学者研究以脑机接口为代表的神经技术以实现脑机融合及其一体化^[16-19]。然而，总体来讲，人机融合智能研究仍然处于起步阶段。为此，本文从信息、系统等多个角度对人机融合进行思考，对人机融合的定义、人机中的深刻关系以及人机融合的关键问题进行了分析和界定。

2     人机融合智能概念

机器在搜索、计算、存储等方面具有人类无法比拟的优势，然而在感知、推理、学习等方面远不如人类智能高效。为实现具有通用属性的人工智能，需要结合机器智能和人类智能的优势，实现将人的认知属性和机器计算属性深度融合。结合前人提出的混合智能的层次化概念框架[14]，以及我们对人机融合智能中深度态势感知的思考[20]，我们给出人机融合智能的体系结构，如图1所示。并给出人机融合智能的定义，如下：

人机融合智能是由人、机、环境系统相互作用产生的新型智能系统。它结合了人与机器各自的优势，是跨物种越属性的下一代智能科学体系。它兼具人类智能的意向性和人工智能的计算性，可以灵活的协调人机融合智能问题中的各种矛盾和悖论。

人机融合的体系结构采用分层的体系结构。人类通过认知对环境进行感知，其认知过程可分为意图层、决策层、感知与行为层三层，机器通过计算对外界环境进行感知，其计算感知过程也分为目标层、任务规划层、感知与执行层三层。体系结构强调人类和机器在同层次以及多层次之间的多尺度融合，强调人机环三者的深度交互。          

 

图1人机融合智能的体系结构

3     人机中的深刻关系

当前的人工智能专注于计算，基于物理规律对客观世界进行建模，凭借强大的硬件运算处理能力，可实现在单一的领域超越人的智能。但是由于机器更擅长处理家族相似的事物，人工智能一旦跳出模型所适用的特定领域，效果往往不尽人意。除此之外，计算的源头——数学，其本身并不是完全精确的，所以建立在数学基础上的人工智能本身也存在着许多无法修正的精度问题。

人的智能则与机器的智能有很大的不同。人具有意识，可以对客观世界进行自由的认知，通过对连续的物理世界利用自己的感性认知进行理性的抽样，总结出一系列的规则和逻辑，得到离散近似的科学。因而，在科学基础上建立的机器智能从根本上就是完全理性的，且其理性是建立在一系列的逻辑和规则上的。其完全按照人为设定的逻辑运行、利用人类数学进行计算，就连看上去十分智能的相似家族事件处理能力，究其根底，不过也是人类数学在机器上的运用。与此相对，人的理性则是建立在以感性认知为底层的理性之上，这是人与机器最大的不同之处。

目前的人工智能以计算机为中心，并没有实现“以人为中心”的认知。在1968年图灵奖获得者理查德·哈明就说过：“计算的目的不在于数据，而在于洞察事物。”计算机的本质就是通过数理反应心理和物理规律。玻尔也说过：“完备的物理解释应当绝对地高于数学形式体系。”认知的核心是智能，是洞察事物，所以计算属于认知，但认知却不等同于计算。以计算为中心的人工智能和以认知为中心的人类智能各有优缺点，基于计算的机器如果没有人的认知能力，就永远也跳不出“人工”的痛点，当然，人肉体的局限性也使得人不可能具备机器的高速运算和处理能力。然而，人工智能模拟的就是人的智能，人类智能核心是心理，根本在于理解，但人工智能的理性和人类理解是不一样的，数学的方法可能遮蔽了深刻的洞察，抛弃心理的本质而追求高效率的计算并不能实现真正的人工智能。将人的认知模型引入到人工智能中，将两者结合并使之协调发展，让它能够在推理、决策、记忆等方面达到类人智能水平，才是未来智能的趋势。未来的智能应该在融合了诸多学科新一代数（信息）学的基础之上成长起来，而不是仅仅建立在当前有着诸多不完备性的数学基础之上。

实现人机融合的智能，人的意识是重要基础，帮助协调人机融合中各种悖论和矛盾。人机融合智能的实质是在“以人为中心”的意识统筹下的多无意识智能在大脑的融合。意识是对各种客观事物的主观体验。人类本来就是意识和无意识的融合，人的大部分思维、动作和行为都是无意识的，有意识的只占极少数。意识的反应慢，会受到距离的影响，从腿上出来的信号比从眼睛传来信号要慢很多。无意识的反应速度很快，诸如看到飞蛾眨眼，无意识的抓住落下的笔，这些都是本地化的智能反应。意识只存在于大脑深处的某个区域，而身体各部分都只是具有自己的智能，而无意识。这也影射了人机融合智能的可行性，通过发展具有足够智能的机器，作为人无意识部分的延伸，结合人的意识，形成更强的人机融合智能体。

4     人机融合的关键问题

人机融合智能研究的对象是物理和生物混合的复杂系统，是广义上的“群体”智能，包括人、机和环境。智能作为一种现象，本身就表现在个体、群体以及自然的相互作用和行为过程中。人机交互本质上是人的感性结构化与人的部分理性程序化之间的融合。人类理解世界是通过认知，所以人能相关表面上看上去无关的东西，但是机器却做不到。人有跨领域结合的能力，而机器没有。建立人与机器之间的双向交互关系，是实现真正智能的突破口。朱利奥.托诺尼的整体信息论（Integrated Information Theory，IIT）表明，一个有意识的系统必须是信息高速整合的[20]。为了保证人机融合智能系统共同意识的存在，人和机器之间必须建立高速有效的双向信息交互关系。为构建人机之间的双向交互关系，需要从抽象的角度着手，抽象的角度越高，适应范围越广，用一层层的抽象方法去理解事物的本质，就能从思想上突破技术的局限性。另外，试图以形式化的方法获取人智能的思想是行不通的，因为模型并不是完全准确的。

人机融合智能的一个瓶颈问题，是如何将计算和认知结合起来。1971图灵奖获得者约翰·麦卡锡发表观点：“与所有专门化的理论一样，所有科学也都体现于常识中。当你试图证明这些理论时，你就回到了常识推理，因为常识指导着你的实验。”从中，我们不难看出：认知里的常识恰恰是被计算所过滤掉的精华。常识就是非结构化的多模态信息／知识的复合体。研究将常识应用于计算是突破知识和认知结合的关键。

人机融合的关键还应该包括：一多与灵活弥聚的表征、公理与非公理混合推理、直觉与“间觉”交融的决策。首先，通过人的价值取向有选择地获取数据，在这个输入过程中不仅是客观数据与主观信息的融合，还应该包括人的先验知识和条件；其次，在人机信息/数据融合处理过程中，人的非结构化信息框架（如自然语言）会渐变为结构化一些，而机的结构化数据语法就会非结构化一些，这个过程不但要使用基于公理的推理，并且还需兼顾结合非公理性推理，使得整个推理过程更加缜密合理；最后，在决策输出阶段，人常常是由脑中若干记忆碎片，与五感接收到的信息，综合在一起，跳过逻辑层次，直接将这些信息中和的结果，反射到思维之中，形成所谓的“直觉”，其结果的准确程度，在很大方面取决于一个人的综合判断能力，而机器则是通过计算获得的结果--“逻辑”进行间接评价，这种把直觉与“间觉”相结合的独特决策过程就是人机融合智能输出的一大特点。

人机融合智能的一个核心问题是介入问题，即人与机相互之间何时何处以何种方式（或平滑或迅速）介入的问题，尤其是在歧义点或关键阈期间介入的反应时、准确率。比如，在融合时彼此之间的接受、容忍、信任、匹配、调度、切换、说服、熟练程度，以及如何训练出个性化的伙伴关系等都是具体亟待解决的问题。由于人机融合在细节层面和人人之间的合作几乎同样复杂，或者说是有一些另类的复杂问题。因而可以认为，从技术角度讲，人机融合智能绝不仅是一个数学仿真建模问题，还应是一个实验统计体验拟合的问题。

人机融合智能的另外一个重要问题是伦理问题。人类价值观的起源是伦理学，人类自身的伦理道德困境就很多，所以人机融合的未来也会困难重重。人机融合智能有两大难点: 理解与反思。人是弱态强势，机是强态弱势，人是弱感强知，机是强感若知。人机之间目前还未达到相声界一逗一捧的程度，因为还没有单向理解机制出现，能够幽默的机器依旧遥遥无期。另外，人机之间配合必须有组合预期策略，尤其是合适的第二第三预期策略。单纯的一次期望匹配很难达成融合，所以第二、第三预期的符合程度很可能是人机融合一致性的关键问题。人机融合就是机机融合，器机理+脑机制；人机融合也是人人融合，人情意+人理智。

5        总结

人机融合智能研究是智能技术发展到一定程度的产物，它既包括人工智能的技术研究，也包括机器与人、机器与环境及人、机、环境之间关系的探索。与很多新兴学科一致，它的历史不长，但发展速度很快。尤其是近些年，依托着深度学习的兴起，以及一些大事件（AlphaGo系列）的产生，人们对人工智能本身，以及人机融合智能研究的兴趣陡然上升，对其相关研究与著作也相对增多。但是，可以预期到的是，人机融合智能技术本身离我们设想的智能程度还相去甚远，且自发的将人的智能迁移到机器中的想法本身实现难度就极大。这是一个很难回避的问题。这些都需要目前的智能科学家们做进一步的研究。人机融合智能研究不仅仅要考虑机器技术的高速发展，更要考虑交互主体-人类的思维与认知方式，让机器与人类各司其职，互相促进，这才是人机融合智能研究的前景与趋势。