韩国著名大学——韩国科学技术院(Korea Advanced Institute of Science andTechnology,KAIST)于2018年2月设立了一个从事人工智能武器研制的实验室。2018年4月,全球50名顶尖学者联合宣布将采取多种行动以抵制KAIST这一行为。
在韩国著名大学韩国科学技术院(KAIST)与韩国最大公司之一合作设立其称为人工智能武器实验室的研究中心后,超过50名顶尖人工智能科研人员在2018年4月4日宣布抵制该大学。
来自30个国家/地区的这些科研人员表示,在韩国科学技术院承诺不开发缺乏“有意义人类控制”的人工智能武器前,他们会停止访问该大学、拒绝接待来自该大学的访问学者以及避免与该大学的研究项目合作。
韩国科学技术院在2018年2月与身为韩国两家集束弹药制造商之一的韩华系统公司(Hanwha Systems)合作开设了该中心。该大学在几个小时内作出回应,称其“无意参与致命自主武器系统和杀手机器人的开发。”
韩国科学技术院的校长申星哲(Sung-Chul Shin)表示,该大学对关于人工智能的伦理问题“有深刻认知”,并补充道:“我再次重申,韩国科学技术院不会开展任何有悖人性尊严的研究活动,包括不会开展针对缺乏有意义人类控制的自主武器的研究。”该大学表示,新的国防与人工智能融合研究中心(Research Centre for the Convergence of NationalDefence and Artificial Intelligence)会专注于将人工智能用于指挥和控制系统、大型无人驾驶水下航行器导航、智能飞行器训练以及物体跟踪和识别。
悉尼新南威尔士大学(University of New South Wales)教授托比·沃尔什(Toby Walsh)组织了抵制活动。他表示,韩国科学技术院的快速回应是抵制活动取得的成绩,但他需要在取消抵制活动前与所有签署公开信的人员进行交谈。沃尔什表示,目前尚不清楚在无人驾驶潜艇位于海底且无法通信时,人类如何建立针对无人驾驶潜艇的有意义人类控制,而无人驾驶潜艇正是启动项目之一。
在一封宣布进行抵制的公开信中,科研人员警告:“如果自主武器被开发出来,战争将以比以往任何时候都要快的速度和都要大的规模进行。它们有可能会成为恐怖分子的武器。”科研人员列举了对过往武器技术的有效禁令,并敦促韩国科学技术院禁止与致命自主武器有关的所有工作,以及避免可能会伤害人类生命的人工智能应用。
这封公开信也得到了深度学习和机器人领域顶尖专家的签名,今天后123个联合国成员国在日内瓦召开会议讨论了批评者所称的“杀手机器人”的致命自主武器所带来的挑战。
沃尔什称:机器人和人工智能技术在军事方面有许多潜在的有益用途,包括将人类从清理雷区等危险任务中解放出来,但我们不应该将谁生谁死的决定交给一台机器。这明显逾越了道德底线,我们不应该让机器人决定谁生谁死。
![640?wx_fmt=jpeg](https://i-blog.csdnimg.cn/blog_migrate/f93fae98a101ee021d00928680076722.jpeg)