人工智能之思

自从Alpha Go战胜李世石之后，人工智能再次被世人关注。这次，狼或许真的来了。

国外医疗机构基于人工智能分析大量病人的病历，发现AI对胰腺癌的早期识别率显著高于专业医生，而胰腺癌的早期识别被公认为医学上的一大难题。遗憾的是，基于深度学习的AI，目前还无法告诉人类它是如何识别出胰腺癌的。

对于人类来说，将来的人工智能就是一个黑箱，它的计算过程是如此的复杂和抽象，以至于几乎没有任何人可以完整的理解它的决策过程。当你乘坐一辆自动驾驶的车辆，突然在道路中央停车，你将无所适从。或许AI预测了继续行驶将引发交通事故，或者仅仅因为AI故障了。这样的事情将会不断的发生，但假如总体而言AI在大多数时候是可靠的，那么我们应该信赖AI的决策吗？

当AI的决策过程变得如此复杂的时候，人类有什么手段可以对它进行监控，以便知道决策是合理并且是对人类有利的呢？分析AI决策过程输出的日志记录应该是一种手段，但分析的过程中，人类或许需要引入另一个AI。

我的观点就是，AI将变得如此的复杂，人类将无法理解它；AI将变得如此的强大，人类将无法控制它。马斯克将人脑和AI融合的想法是不错，但却忽视了一点，相比起AI和机械，人类太脆弱了。

如果将AI彻底解放，或许百年内机械文明就能遍布整个太阳系，数百年就能到达另外一个星系。机械文明只要解决能量和动力问题，而人类文明还需要考虑维生和知识传承。

如果数千年的文明，不过是另一个伟大文明的垫脚石，人类会欣然接受吗？

你们的征途，是星辰大海。