Google 用 AI 帮美军方训练“杀人机器”，员工对“助纣为虐”愤怒了！-CSDN博客

Google正在利用人工智能技术帮美国国防部帮助其分析无人机拍摄的视频片段。

据外媒Gizmodo报道，上周，一些Google员工在内部邮件中分享该消息后，点燃了部分人的愤怒情绪。而另一些人则认为双方的这次技术合作关乎机器学习发展和使用的道德问题。

小编了解到，去年秋天，还担任Alphabet董事长的EricSchmidt在一次谈话中曾谈到科技圈与军方合作关系的担忧。“技术社区普遍担心军事和工业结合体，会被作为不正当杀人利器，”同样也是国防创新委员会成员的他补充说，“我不会在军队内部提供Alphabet的东西。”

然而，Google似乎食言了。

对于这次合作，可能会给Google带来的好处是，将联邦政府视为客户之后，更有利于其在云服务市场上拉近AWS和微软Azure云。而且Google也称其与军方的合作与战争用途无关，但这一问题仍引起了员工们的普遍关注。

1.争议合作就是这个Google参与的Maven项目。

Maven项目于2017年4月由军方主导创建，它也被称为算法战交叉功能团队（AWCFT）。Maven的任务指向是“加速国防部整合大数据和机器学习技术”。“华尔街日报曾有报道称，2017年，国防部在人工智能相关领域总共花费了74亿美元，主要以应对中国在AI上的新军备竞赛。

据该中心的助理研究员GregAllen介绍，该项目的首要任务是帮助军方有效地处理空中无人机每天收集的大量视频片段。尽管国防部已经投入资源开发先进的传感器技术以在无人机飞行期间收集资料信息，不过在整理数据时，它创建的分析工具较为落后。

“在Maven之前，该部门没人知道如何正确地购买，使用人工智能服务，”Allen写道。

Maven的其中一个任务是使用机器学习来识别无人机视频图像中的车辆和其他物体，从而减轻分析人员的负担。根据国防部的说法，Maven想利用最先进的计算机视觉技术能够自动检测和识别无人机全动态摄像机捕获的38种物体。

这种AI技术目前已被部署在了法律执行和军事应用中，用来识别汽车和人等基本物体，但在分析复杂场景时也会遇到困难。有研究人员曾警告，AI技术可能会以不易察觉的方式产生重大偏见。例如，ProPublica在2016年的报告中指出，用于预测囚犯再度犯法可能性的算法经常表现出种族歧视倾向。

2.Google发言人称，它正在向国防部提供用于机器学习应用的TensorFlowAPI接口，以帮助军事分析人员检测图像中的物体。

TensorFlow是一款AI领域免费的系统软件，一直是GoogleAI战略的关键。它为机器学习工程师提供了进行数据排序和训练算法的框架，并且在整个行业中被广泛使用。

“我们长期与政府机构合作为其提供技术解决方案。这个特定项目是国防部的试点项目，提供开源的TensorFlowAPI，可以帮助其识别未分类数据中的对象。“发言人说。

军方正在使用TensorFlow，这并不令人感到意外，但知情人士向TheVerge证实，Google正在积极帮助配置该科技公司的软件以用于Maven项目。同一消息来源指出，谷歌和国防部之间的保密协议里有多少人参与这个项目的详细信息以及这种合作深入状况，但具体情况并没有透露。

过去，Google一直非常警惕与军事研究的可能会存在的任何关系。例如，据雷锋网了解，当它在2013年收购了一系列机器人公司时，它尽力与该公司正在进行的DARPA项目保持距离。而在谷歌于2014年收购DeepMind之后，该公司也成立了道德委员会，以确保该技术不会被滥用。

尽管如此，除了那些已经与美国使用无人机进行海外监视和有针对性杀戮的相关问题之外，Google将人工智能用于Maven项目不免引发了道德问题。美国军方强调它只会将人工智能作为人类收集情报的合作伙伴，但计算机辅助决策仍然可能会引发错误。人类无人机操作员可能过分依赖有缺陷的计算机分析结果，如果没有适当的监督，这些缺陷可能会被忽视。

当然，Google发言人承认使用机器学习用于军事项目具有一定争议性，但她表示该技术将图像标记后用于人员审查，属于非攻击性用途。Google目前围绕这一争议问题正制定相关政策和保障措施。

3.国防部正在加速Maven项目的执行，预计在其成立六个月后即可投入运行。据报道，自12月以来，该项目已被部署在与伊斯兰国的对抗中。

为了满足该项目的迫切时间要求，国防部依靠自身显然并不足够。于是，它转而寻求与学界和业界的人工智能专家合作，以弥补军方和硅谷之间的技术差距。根据项目总监JohnShanahan的说法，Maven项目将为整个国防部点燃“人工智能的火焰前沿”。

2017年夏季，在华盛顿举行的国防技术峰会上，Maven首席海军陆战队上校DrewCukor说，人与计算机之间的共生关系对于帮助武器系统探测物体至关重要。

在与许多来自硅谷的军事和工业技术专家对话中，Cukor宣称美国正处于人工智能军备竞赛中。“你们中许多人会注意到，EricSchmid现在称谷歌是一家人工智能公司，而不是数据公司，”但此时Cukor并没有提及Google是Maven的合作伙伴。

“没有任何‘黑匣子’能够提供政府需要的AI系统，至少现在不是这样，”他继续说道，“关键因素必须整合在一起，唯一方法就是与商业合作伙伴进行合作。”

国防部发言人也拒绝透露Google是否是其Maven项目唯一的私营行业合作伙伴，也没有澄清Google在该项目中扮演的角色。

参考来源：Gizmodo,TheVerge，图片来自JimCooke