每一部关于未来机器人的科幻影片都阐发了一个令人心寒的理念：机器人一旦学会为自己思考，人类就注定要灭亡。
例如《2001太空漫游》里的HAL9000，《银翼杀手》里的复制人，《西部世界》里的Hosts。
如今，美国的五角大楼也正热火朝天的研发新兴的人工智能科学，预开发计算机算法，实现无人驾驶汽车、智能医疗，以及智能军事武器。
人工智能的竞赛成为国防高级研究计划局的首要任务，该机构只有200多名工作人员，在开发隐形技术、高精度武器和互联网等方面发挥了重要作用。
美国国防部高级研究计划局(DARPA)局长Steven Walker在该机构成立60周年研讨会上表示：“实际上，在过去的50年里，DARPA及其合作伙伴已经引领了人工智能的研发道路。因此，在这场游戏中，我们并不是新手。”
早期的人工智能就已经完善好了系统技术和统计学习的能力，AI的下一轮飞跃就是研发领域所谓的“第三波”技术，它专注于“语境推理”，也就是我们所谓的“思考”。
近日，在美国华盛顿特区的一次研讨会上，美国国防部高级研究计划局宣布，计划在未来五年内，投资20亿美元用于人工智能的研究，探索“怎样赋予机器类似人类的沟通和推理的能力”。
美国空军参谋长联席会议副主席Paul Selva将军是人工智能领域著名的思想家之一，他认为，计算机辅助思维有望使美国未来的军队成为超越人类的机器人战士，帮助作战人员了解战场上的“大数据”。
Selva在今年的圆桌会议上向国防记者表示，人工智能能够让我们看的更快、决策更快、行动更快。如果你没有实现这些能力，就说明你并没有利用好这项技术，你只是在欣赏它。
人工智能可以做一些基础性的工作，例如平凡的、重复性高的任务，查看背景记录或分析无人机镜头的时间等。
但包括谷歌在内的很多科技公司反对他们的这项人工智能助力战争的计划。上周，谷歌决定不再竞争价值高达100亿美元的五角大楼云计算合同，称该项目可能与其企业价值发生冲突。其中包含谷歌的一项声明：确保不制造任何有意造成伤害的武器或系统。
随着武器越来越智能，道德问题越来越棘手。
伦理学家担心的是LAWS的兴起，即致命自主武器系统的缩写，例如《终结者》电影中的“天网”。一个现实的例子是“自主飞机”，就如同今天的无人机一样，飞机驾驶室里没有人类飞行员。
日内瓦的和平基金会科学顾问Regina Surber写到：“一般的想法是，机器一旦被激活，法律将借助于传感器和计算密集型算法，识别、搜索、选择和攻击目标而不需要人为干预。”
Surber在今年发表的一项论文中，提出了赞成和反对的论据，
Surber指出，一方面，自主“思考”系统不依赖于通信链路，可以在更长的时间内增加射程，减少军事行动所需的人数，甚至可以挽救双方的生命。
它们更高的处理速度将适应日益加快的战斗速度，用机器替换人类，可以减少伤亡。并且因为机器没有自身利益、恐惧、复仇等之类的情绪特征，它们的“客观”决策可以降低整体结果的危害性。
另一方面，人工智能代替人类判断越多，战士对人类生命的价值失去敏感性风险的可能性就越大。
此外，人类可能无法再预测攻击目标是谁或是什么，甚至无法解释选择特定目标的原因。Surber争辩道：“作为一个机器，而不是人类“决定”杀人。程序员或工程师与目标人物之间的情感会变得冷漠，甚至变成一种“游戏”心态。”
五角大楼参与机器学习系统竞争时，国防部长Jim Mattis也考虑到了这一点。
Mattis向记者表示，将人类从顾有的圈子里拉出来，可能会改变他们认为的不可变的战争原则，但即便技术发生了变化，其基本性质是没有改变的。
Mattis表示，今天大家称作“无人驾驶飞机”，而不称为“遥控飞机”，实际上误解了这一名字。驾驶室里没有人，但不代表没有人操控它，其实后台是有人为操控的。现实是，驾驶它的人比飞机真实承载的人还要多，“无人”这一说法是不存在的。
“但如果人类被有感知的机器人取代，它也许会改变一切。我也肯定会质疑我最初的假设，即战争的根本性质不会改变，但你们现在必须对此提出质疑。”
来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/31545819/viewspace-2216616/，如需转载，请注明出处，否则将追究法律责任。
转载于:http://blog.itpub.net/31545819/viewspace-2216616/
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
