三层因果关系

首先要了解因果推断的三层：

（1）X发生Y会怎样？

（2）如果改变X，Y会怎么样？原文 it involves not just seeing what is, but changing what we see.

（3）如果我们希望Y变化，那么我们需要对X做出什么样的改变？包括介入性和联想性内容。

这里用文中一个很有趣的例子说明干预和反事实是怎么从算法意义上实现的。
图一模拟一个犯人被执行死刑的流程，CO代表法官，C代表指挥队长，A和B代表士兵，D代表犯人。整个流程是：法官发出执行指令，指挥队长对士兵发出开火的信号，士兵开火射击，犯人死亡。首先做一些关于该模型的假设：整个流程不存在意外因素，比如士兵开枪射击后犯人不死亡，指挥队长发出开火信号，而士兵不执行指令，诸如此类。

为什么要干预？
现实生活中，你可能会就这个流程问机器类似这样的问题：如果士兵A在没有收到队长C的指令前提下主动开火（可能是私仇），犯人D会死吗？看起来非常简单的问题，基于图一的因果图，机器是做不出回答的，因为如果士兵A射击，那一定是收到了队长C的开火指令。所以现实中机器读入了大量行刑的数据，极有可能找不到"士兵A私自开火"这样的数据，机器不能在数据缺少的情况下，训练出一个符合预期的模型用来应答该问题。
干预能达到什么效果呢？
干预的操作方法：当要考察A做出状态变化对D的影响（比如：士兵私自开火），首先删除掉所有因果图中指向A的所有箭头，然后去考察新形成因果图，比如图二。这时C指向A的箭头已经被删除，C的状态变动不会对A造成影响。从图中可以容易看出，如果士兵A主动开火，犯人D会死亡，因为A有指向D的箭头。这样的操作是有意义的，尽管可能在现实中不会出现士兵A主动开火这样的事件，但如果士兵A开火，犯人D会死亡是一个因果的描述，不依赖于该事件是否能发生。掌握类似的干预能让机器不那么死板，更具有灵活性（更能表现出智慧的特征？）。

基于干预，但比干预更进一步的因素：反事实。
行刑结束后（犯人已经死亡），如果士兵A在想，假如我当时没有开火（A=False），犯人D会死亡吗？机器在基于图三的因果图会发现，D仍然会死亡，不管A本身是否开火（因为B开火了导致D死亡）。这反映了一个这样的道德事实：即使A开火，致使D死亡，D的死亡也不是因为A（是因为犯人触犯了法律的禁区），就算A不开火，也会有某个执行者去开火。清楚这一事实在一定程度上减缓了A的道德困惑。图二图三这些假设事件不是来自真实世界的数据，而是来自反事实世界，但这些假设的数据是有意义的，因为它反映了因果关系，这些假设数据和现实数据一般有用。