图灵奖得主Yoshua Bengio：用因果打开AI的黑盒-CSDN博客

点击上方蓝色字体，关注：决策智能与机器学习，聚焦AI干货

编者按：打开AI的黑盒是人工智能落地产业界面临的越来越迫切的问题，如同人类对世界因果关系的认知支撑了种种复杂的预测和决策。概率论的提出为数学描述现实世界充满不确定性的因果关系给出了可能性，那么在AI可解释性、因果建模方面可以如何利用？2019年的图灵奖得主Yoshua Bengio为我们带来了最新成果和讲座。

今年3月，Yoshua Bengio因对深度学习的发展做出的贡献而获得了计算机科学领域的最高荣誉：图灵奖。深度学习技术引发了人工智能的复兴，推动了自动驾驶汽车、实时语音翻译和面部识别等技术的应用。

现在，Bengio表示深度学习技术需要修复和完善。他认为，如果深度学习技术不能跨出模式识别之外，不能实现对因果关系等更多信息的了解，就无法实现全部潜力，也不会带来真正的AI革命。换句话说，深度学习不仅需要弄清“是什么”，更需要开始问“为什么”。

他说，深度学习在理想的情况下效果很好，但是如果不能推理因果关系，就无法接近复现人类智力的水平。Bengio说：“如何将因果关系集成到AI技术中是一件大事。” “当前的机器学习方法假定，经过训练的AI系统将与训练数据应用于相同类型的数据。在现实生活中，情况往往并非如此。”

包括深度学习在内的机器学习系统是高度特定化的，这些针对特定化任务进行训练，比如识别图像中的猫或音频中的口头命令。自深度学习技术于2012年左右问世以来，展现出了令人印象深刻的识别数据模式的能力。从医学成像中发现癌症，到发现财务数据欺诈的迹象，深度学习技术落地越来越广泛。

但是在因果关系上，深度学习从根本上说是无能为力的。与真正的医生不同，深度学习算法无法解释为什么某些特定图像模式可能代表着疾病。这意味着在危急情况下必须谨慎使用深度学习。

了解因果关系将使现有的AI系统更智能，更高效。如果机器人知道东西掉在地上会摔坏，就不需要将几十个花瓶扔到地板上来进行训练了。自动驾驶汽车也是如此。他说：“人类无需经历很多事故，就可以谨慎驾驶。”我们只是可以想象事故的场景，就能为发生的实际情况做好心理准备。”

问题是如何赋予AI系统这种能力。

如何让AI懂得“前因后果”

Bengio在他的研究实验室中正在研究一种能够识别简单因果关系的深度学习模型。他和他的同事最近发表了一篇研究论文，概述了该方法。研究人员使用了一个数据集，以概率的形式绘制了诸如吸烟和肺癌等现实世界现象之间的因果关系，还生成了因果关系的综合数据集。

论文中的算法本质上形成了关于哪些变量具有因果关系的假设，然后测试了对不同变量的变化。例如，即使癌症与其他因素（比如去医院就诊的行为）相关，吸烟不仅与癌症有关，而且实际上会导致癌症的事实仍然应该是显而易见的。

这样，AI机器人最终可能会使用这种方法来形成关于当物体掉落时会发生什么的假设，然后看到几件东西砸在地板被摔坏，从而确认这种因果关系的假设。

目前，利用深度学习可以将训练数据（图像或音频）被馈送到神经网络，经过调整，直到以正确的方式做出响应为止。只要能够提供大量训练图像，并具备足够的算力，就可以训练深度学习程序就能够实现高精度地识别照片中的目标。

但是，深度学习算法并不善于概括，也不善于将一种情况下学习到的知识用在另一种情况中。深度学习可以捕获相关现象，例如公鸡啼叫和太阳升起，但并不知晓这两件事情之间的因果关系。

Bengio北大演讲：通过深度学习理解世界的构成

实际上，Bengio不仅致力于研究机器学习技术与因果关系的理论和模型，更致力于应用这一重要理论和模型的应用和传播。

近日，他来到北京大学前沿计算研究中心做了一个在线报告，题为《通过深度学习来理解世界的构成》(Towards Compositional Understanding of the World by Deep Learning)。

Bengio的演讲主要内容包括：

在处理out-of-distribution方面，人类比现有的AI系统更擅长。AI怎样能更接近人类的能力水平呢？Bengio在讲座中提出四种组合：

元学习：端到端地学习以推广到修改后的分布，从分布中采样；
设计模块化的架构，其中模块彼此相互独立，稀疏交互，同时易于以新的方式组成；
捕获因果结构分解成独立的机制，从而正确地推断智能体修改数据分布干预的效果，以及利用学习者与其环境之间的相互作用来学习语义高级变量及其相互作用，即，采用agent的学习视角，有利于抽象表象的深度学习。

这意味着单纯从文本中学习是不够的，我们需要努力寻找建立世界模型的学习主体，语言标签可以与之关联。虽然这种agent视角让人联想到深度强化学习，但重点不是深度学习如何帮助强化学习，而是在强化学习中常见的agent视角如何帮助深度学习发现更好的知识表示。

深度学习与因果关系，前人早有关注

实际上，关于因果关系的问题，AI之外其他领域已经进行了长期研究，近几十年来，陆续出现了探索因果关系的数学技术，彻底改变了包括社会科学，经济学和流行病学在内的各个领域的研究状态。现在，研究人员正在努力将因果关系和机器学习结合起来。

因因果推理研究工作在2011年获得图灵奖的朱迪亚·珀尔（Judea Pearl）说，他对Bengio的想法印象深刻。他最近与他人合著一本书《因果的新科学》（The Book of Why：The New Science of Cause and Effect）提出了从根本上限制AI而没有某种因果推理能力的情况。