从CIMON联想到HAL 9000，谈谈AI的使用

今年二月二十六号IBM和空客（Airbus）共同宣布了一项新计划。今年六月到九月在国际太空站 (ISS)内，将会有一个漂浮的球形机器人助手 CIMON辅助德国宇航员Alexander Gerst执行任务。CIMON由两家公司共同研发，使用了IBM云平台Watson 的技术。它是人类史上首个AI太空任务与飞行辅助系统。因为CIMON，该计划将成为AI领域的重要里程碑。【查看详情-1】【查看详情-2】

新闻一出现，立刻引起了全球各地科技发烧友的关注，且让人莞尔的是在网络上“2001，HAL，HAL 9000”等关键词出现的频率也随之激增了。其中更有一个颇具玩笑性的留言是“难道2001年送AI去太空的教训还不够吗?”

让我们把时间拉回到五十年前，1968年《2001太空漫游》（2001A Space Odyssey）首映。这是科幻电影史上的一部经典之作。电影背景是发生在2001年的一个载人土星探索任务。为了确保影片中描述的场景有一定的科学根据，导演Stanley Kubrick邀请了来自NASA， IBM等机构的工程师以及学术界大师，如Marvin Minsky 和 Irving Good等人担任技术顾问。（MarvinMinsky是麻省理工学院电脑科学与人工智慧研究室的创办人。Irving Good是亚兰图灵Alan Turing的队友，与图灵一起在二战中设计了当时的超级电脑，成功地破解了德军的加密通讯。）在这部人类登月前上映的太空科幻片中，观众可以看到关于平板电脑，穿戴式设备，多媒体通讯，人机互动，无声外太空，无重力外太空和人工重力等科技与场景精确细腻的刻画。

电影中给人印象最深刻且最重要的角色就是HAL 9000，一台AI超级电脑。 在剧本里它是90年代美国伊利诺大学所设计开发的。它的类别是通用型人工智能电脑，具备人类思维推理的能力。除了快速处理，其它功能包括语音识别与交谈、脸部和图像识别、唇语读取，艺术欣赏、情绪分析、心里分析，游戏博弈等等。HAL9000负责操控太空船“发现一号”所有的系统，同时在执行土星探索任务的时候协助宇航员工作，包括在长途飞行中维护宇航员心里健康，控制宇航员深层睡眠仓的系统。但是这台在影片中标榜着从来没有出过错，也不会出错的电脑，在运行环境一切正常的情况下却成为了最恐怖的杀手。与男主角在外太空展开了惊心动魄的生死搏斗。

电影对HAL的行为没给出明确的解释。但是编剧Arthur C Clarke 根据电影编写的同名小说中则提供了线索。原来，为了不影响宇航员的心理状态，土星探索计划的高层决定向宇航员隐藏此次任务背后的惊天秘密，只有HAL 9000知道去土星探索任务的真正目的。但是因为HAL的设计，它承袭了人性的弱点，同样被托付的秘密内容所困扰，从而导致行为发生了巨大的偏差。

虽然这是五十年前的电影，但是影片中所影射出AI可能带来的隐患和曝露的问题依然具有时效性。而这其中一个关键的议题就是信任和透明度。AI如果要充分发挥潜力，使用者必须要对其所做的推理，判断，建议及处理有足够的信任度。而要建立信任，一个AI系统所依据的模型，算法，所使用的训练数据，专业知识等就必须透明，可朔，可验证，并且在有效的治理体系下配合使用。否则就像该电影所预言的那样，人类可能会因此付出相当大的代价。

AI正在以前所未见的速度大范围地融入人类社会。你有对你使用的AI做过背景调查吗？