计算机界和数学界，也需要一个“希波克拉底誓言”

汉娜·弗莱： “未来不会就这么来到我们眼前，我们一直在塑造它。”

摄影：Paul Wilkinson | The Guardian

来源  The Guardian

翻译  刘勤

编辑  魏潇

一位学界的领军人物表示，数学家、工程师以及科学家们应通过一个计算机界的“希波克拉底誓言”，来保护大众不被那些正在实验室和科技公司内研发的强大新科技所伤害。

这一道德承诺会令科学家们深入思考他们研究成果的可能用途，使他们不得不只去挖掘那些至少不会对社会带来危害的科学技术。

来自伦敦大学学院（University College London）研究城市数学（mathematics of cities）的副教授汉娜·弗莱（Hannah Fry）说，在数学与计算机界，一个等同于医学界的希波克拉底誓言的宣誓是至关重要的，因为数学家和计算机工程师们所研究的技术将会决定社会的未来。

 “我们需要一个希波克拉底誓言，”弗莱说，“在医学界，你会在接受专业教育的第一天就开始学习医学伦理。而在数学界，伦理道德最多只是个附加条件。伦理道德底线必须从一开始就存在，并且在你做任何一个决定的时候提醒着你。”

希波克拉底誓言。图片来源：impactalpha.com

在今年12月即将举办的英国皇家学会圣诞讲座（2019 Royal Institution Christmas lectures）中，弗莱将会带领观众探索现代数学的强大与危险。皇家学会圣诞讲座由于一些科学界的名人【比如电磁学奠基人、电动机的发明者迈克尔·法拉第（Michael Faraday）和著名的天文学科普作家卡尔·萨根（Carl Sagan）】的参与而闻名，这种由现场演示组成的系列讲座开办于1825 年，现在已成为英国声望最高的科普讲座。

在这个由三场讲座组成的系列——秘密与谎言：数学不为人知的威力（Secrets and Lies: the Hidden Power of Mathematics）中，弗莱会从数学角度探讨冒险与运气，例子从寻找完美的另一半涵盖到如何保持身体健康和心情愉快。她将会探讨这些依靠数据为生的算法是如何渗透进我们生活的各个部分的，哪些问题不应该依靠数学解决，以及当数据不可信时，我们应该如何学习。

弗莱说，当她在柏林的一次学术会议上，讲述自己为伦敦警察局做的 2011 年伦敦骚乱事件*的计算机模拟时，台下了解警察执法真实情况的观众们给她喝了倒彩。那时，她才发现科学家们在科技伦理上存在盲区。

*编者注：2011 年 8 月 6 日晚，英国首都伦敦开始了一系列社会骚乱事件，一直持续到 8 月 10 日才平息。骚乱的导火索是一名 29 岁的黑人男性平民 Mark Duggan 被伦敦警察厅的警务人员枪杀。之后民众上街抗议警察暴行。当地人认为英国的经济不景气，加上政府撙节支出，冲击托特纳姆等高失业率地区，才是引发社会不稳定的主要原因。此次骚乱是自 1995 年发生于布里克斯顿的骚乱至今，英国最严重的一次动乱事件，也是首次发生于伦敦的骚乱事件。来源：凤凰网

弗莱回到伦敦后，她意识到数学家们、计算机工程师们和物理学家们都太过习惯于解决抽象的问题了，以至于他们几乎不会停下来思考他们的研究成果将会涉及哪些道德伦理问题。

这个问题现在变得很严峻，研究者和专家们正在建立能够收集和出售个人信息的系统，这些系统不但揭露了人性的脆弱，还会左右一些生死攸关的选择。弗莱说，“现在科技公司里的员工基本上都非常年轻、涉世未深，并且大多数都是来自数学系和计算机系的白人男孩。”

 “他们从没有被教育过要思考道德伦理，他们也从没有被教育过要考虑他人的人生观可能与他们自身的观念不同，然而最终他们是为我们所有人的未来构建蓝图的人。”

责任意识

科学技术界需要希波克拉底誓言这件事曾被提起过。哲学家卡尔·波普尔（Karl Popper）曾在 1969 年写道：“我们能做的、为数不多的事情之一就是尝试保持所有科学家们的责任意识。”三十年后，因为道德原因退出原子弹联合研发项目的物理学家约瑟夫·罗特布拉特（Joseph Rotblat）爵士对美国学生帕格沃什组织（US student Pugwash group，一个反对核武器、支持裁军的和平组织）发表的宣言表示了公开支持。

在算法方面，弗莱说她并不反对它们的存在，但是希望在它们的发展道路上设定一定的限制。她提及了英国生物学家彼得·劳伦斯（Peter Lawrence）的经典论著 The Making of a Fly 事件：由于两个卖方的竞争算法失控，亚马逊一度将这本书的标价提到了 2300 万美元。在其他情况下，这样的冲突也许就不那么有趣了。

这位注销了脸书（Facebook）账户并在网上只用假名、假邮箱地址的数学家说，她同时认为公众必须为技术公司提供的产品承担一定的责任。

 “我们正在获得我们想要的科技产品的道路上，然而在这一过程中，我们需要开一个全国性的会议商讨我们真正需要的是什么。因为如果没有全方位的探讨过公众一致同意的需求，我们很容易做一些不合适的决定。”

基因检测公司 23andMe 就是一个很好的例子，她说。

 “我们就这样把自己最私密的数据——我们的 DNA，交给了他们。何况我们不仅仅是在为自己做这项决定，我们在为我们的孩子，我们孩子的孩子做决定。也许在当下的世界里，人们之间不存在基因歧视，但是谁能保证 100 年后我们不会因为基因歧视他人？然而我们在花钱让自己的基因加入他们的数据库。”

这些问题的解决方法就是丰富人们的知识，她说。“未来不会就这么来到我们眼前，我们需要塑造和建设它，而且我们已经在持续不断地做这件事了。全国性的大会，人们在传统媒体上的言论，人们在 Twitter 和 Instagram 上的发言，我相信一定都会起到作用。”

这次的圣诞讲座将会在英国广播公司第四台（BBC Four）播出，在近 200 年来有关数学的圣诞讲座中，这仅仅是第四个。

 “数学面临的一个问题是，它是不可见的，”弗莱说，“数学界还没有什么爆炸性的事件。但是尽管数学是看不见的，它却对我们的生活有着巨大的影响，尤其是现在，它的影响比历史中的任何时刻都要大。”

---

《崛起的超级智能》一书主要阐述当今天人类为人工智能的春天到来而兴奋，为人工智能是否超越人类而恐慌的时候，一个更为庞大、远超人类预期的智能形态正在崛起，种种迹象表明50年来，互联网正在从网状结构进化成为类脑模型，数十亿人类智慧与数百亿机器智能通过互联网大脑结构，正在形成自然界前所未有的超级智能形式。这个新的超级智能的崛起正在对人类的科技，产业、经济，军事，国家竞争产生重要而深远的影响。

作者：刘锋   推荐专家：张亚勤、刘慈欣、周鸿祎、王飞跃、约翰、翰兹

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”