两千名AI专家承诺抵制杀手机器人，哈萨比斯、马斯克积极响应

关注网易智能，聚焦AI大事件，读懂下一个大时代！

【网易智能讯7月22日消息】包括谷歌旗下DeepMind的联合创始人和SpaceX的首席执行官在内的2400名人工智能科研人员签署宣言，承诺阻止致命的人工智能武器。

数千名专攻人工智能（AI）的科学家已经宣布，他们将不会参与开发或制造在自主状态下具备识别和攻击行为的人工智能机器人。谷歌DeepMind的杰米斯·哈萨比斯（Demis Hassabis）和美国火箭公司SpaceX的埃隆马斯克（Elon Musk）都在这项承诺的2400多名签署者之列。该承诺旨在阻止军事公司和国家执法机构建造致命的自动武器系统。

这一宣言的签署是人工智能领域的组织和科学家的最新举措，旨在强调将生死的决定权交给人工智能机器的危险。同时呼吁相关人士要未雨绸缪，禁止技术滥用，因为这可能会催生出新一代大规模杀伤性武器。

这一承诺是由波士顿的“生命未来研究所（Future of Life Institute）”组织策划的，它呼吁各国政府商定规范、法律和法规，这些规范、法律和法规将扼杀和有效禁止杀手机器人的发展。

在今天没有此类措施的情况下，签署者承诺“既不参与也不支持发展、制造、贸易或使用致命的自主武器”。超过150个与人工智能相关的公司和组织也加入了签署者的行列，这一承诺在前几日于瑞典斯德哥尔摩举行的国际人工智能联合会议（International Joint Conference）上宣布。

蒙特利尔学习算法研究所的人工智能先驱Yoshua Bengio在接受卫报采访时表示，如果这一承诺能够让那些制造自主武器的公司和军事组织蒙羞，公众舆论就会反对他们。“由于国际条约和公开羞辱，这种方法实际上适用于地雷，尽管像美国这样的主要国家没有签署禁止地雷的条约。美国公司已经停止制造地雷，”他说。Bengio也签署了承诺，表达了他对“致命的自主武器的强烈关注”。

军方是人工智能技术的最大资助者和采用者之一。有了先进的计算机系统，机器人可以在恶劣的地形上空飞行，在地面上航行，在海底巡逻。更先进的武器系统正在酝酿之中。周一，英国国防大臣加文·威廉姆森（Gavin Williamson）公布了一项20亿英镑的计划，计划购买一架新的英国皇家空军战斗机——暴风雨（Tempest），它将能够在没有飞行员的情况下飞行。

英国的大臣们表示，英国并没有发展出致命的自主武器系统，而且英国军队将永远对其部署的武器进行监督和控制。但活动人士警告说，人工智能和其他领域的快速发展意味着，现在可以制造出先进的武器，在未经人类控制者同意的情况下，识别、跟踪和射击人类目标。对许多研究人员来说，让机器来决定人类的生存和死亡，这超越了道德底线。

“我们需要把自主武器不被接受作为国际准则。人类必须永远拥有控制权，”悉尼新南威尔士大学的人工智能教授Toby Walsh说。“我们不能阻止一个意志坚定的人制造自主武器，就像我们不能阻止一个意志坚定的人制造化学武器一样，”他补充说，“但如果我们不希望流氓国家或恐怖分子轻易获得自主武器，我们必须确保武器公司不会公开出售这些武器。”

研究人员可以选择不去研究自主武器，但是其他人在他们发表的突破性进展上所拓展的事情实际上超出了他们的控制范围。英国兰卡斯特大学的另一位签署者、科学与技术人类学教授Lucy Suchman表示，尽管研究人员不能完全控制他们的工作成果如何被使用，但当他们有顾虑时，他们可以参与并进行干预。

她说：“如果我是一名签署了承诺的机器视觉研究人员，我将首先承诺追踪我的技术的后续使用，并公开反对他们的应用程序来实现自动化目标识别；其次，我会拒绝参与任何建议或直接帮助将这项技术整合到自主武器系统中。”

选自：The Guardian 

编译：网易智能 

参与：李擎

- 加入社群吧 -

网易智能AI社群（AI专家群、AI黑板报）火热招募中，对AI感兴趣的小伙伴，添加智能菌微信 kaiwu_club，说明身份即可加入。