因果推断和人工智能

具有因果推断能力，是未来实现强人工智能的必要因素。

强人工智能，可类比于生活中真实的人类。目前的人工智能与真实人类的最大差别，在于现在的人工智能只能执行特定领域的特定目标，缺失迁移的能力。迁移需要从知识中抽象出底层逻辑，需要能知道不同领域之间哪些逻辑仍然适用，哪些不适用了。

所以未来的强人工智能，应该具备人类一样在实践中纠错的能力。意味着他像人一样会自我怀疑。最难的一点是如何把握自信与自卑之间的尺度。

对于人类而言，这一点同样很难。人最难的就是在自己认知领域之外的事情。如何获取正确的知识？如何判断别人是对的，而自己是错的？一种解决方法是听从更优秀的头脑，识别他所说的话当中正确的成分。意味着强人工智能模型需要从更强的模型中学习。然而如何判断一个模型是更强的？更强的模型中哪部分是正确的哪部分又是错误的？比如现实生活中会有专家。但专家说的话也不一定是百分百正确。

似乎这里的逻辑，等同于强化训练中的在线训练。问题是在线训练如何获得对和错的标签？在日常生活中，我们很难去通过反馈，百分百确定自己做的事，是对的还是错了。

总的来说，强人工智能应具备逻辑推断能力，以适应不同领域的任务，同时应具备相应领域的常识，或者说领域内在逻辑结构。比如3d建模应先抽象出表征，再结合环境和位置来还原画面，而不是一个像素一个像素的还原。

未来强人工智能不知道具体会是怎样训练出来的，但因果逻辑推断和领域结构知识，一定是两大必要因素。

另外的一些相关的疑问:
模仿与独立思考之间的界限在哪里？
记忆在其中起了怎样的作用？