谷歌：但使龙城飞将在 不教算法度阴山

虽然你还不清楚算法的工作原理，但是它已经在不分昼夜的为你服务。打开手机，淘宝用算法为你推荐商品、饿了么用算法给你推荐外卖、滴滴用算法避开早晚高峰为你规划最优路线；走出家门，停车场和街道的摄像机通过人脸算法帮助警察搜寻犯罪份子，昼夜保护城市安全；走进企业，人力资源部用算法筛选简历，寻找合适的员工、法务部门用算法帮助律师处理合同、投资部门用算法挑选股票或者虚拟货币……全世界都是如此。

虽然你毫无察觉，但是，算法（准确称之为算法及其相关技术与应用，以下简称算法）正在重塑商业、政治、社会以及战争。

科技与战争的关系异常暧昧，但是我们需要清楚知道，算法什么时候接管武器，接管战争？

2000 年至 2008 年间，科技互联网技术迅猛发展，美国国防信息技术却老态龙钟。在克服了守旧主义与官僚主义之后，美国军方内部终于达成高度共识，用高额的军饷买出美国军事科技的新高度，全面拥抱人工智能。

远看是商品需求和供给的谈判，近看是企业利润与商业伦理的厮杀。

科技的前沿成了伦理的阵地。谷歌作为全球最大人工智能企业，学术理论先进、技术实践领先、企业文化引领，已经先人一步走到了企业伦理的分叉路口。人工智能史上的巨额订单，打响了人工智能企业商业伦理的第一战。

 “永不作恶”是谷歌1999年提出的企业宗旨，并一直沿用。这一次在作恶与不作恶之间，谷歌上演了快意恩仇录。

第一回

力尽关山未解围

谷歌向美国国防部提供人工智能技术，如果商用科技与军用需求合作成功，那么这将是首次以人工智能算法为纽带，将无人机在战场上获得的海量数据通过机器学习的方式进行分析与挖掘，转化为有价值的行动情报和军事洞察，开启人工智能军事应用的先河，是美国国防部人工智能技术应用于战场的重要里程碑。一石激起千层浪，谷歌员工的开始担忧，随即引发了广泛讨论，事件在公司内部不断发酵，积重难返。终于，谷歌员工发表公开信反对参与美国国防部的人工智能项目，并收集到大量员工签名。在一次公司会议上，员工就谷歌参与军事提出面对面的质疑。当时，谷歌云的一位高管极力为该合同辩护。显然，解释和辩护都没有奏效。公司高管低估了员工对技术不能用于作恶的坚守，员工不想参与开发可用于军事目的的人工智能项目。安抚和劝慰都无法解释算法技术及相关应用将被用于战争的重大争议性事实。嗅觉灵敏的外媒立刻盯上了此事，内部的几次沟通的细节都被媒体大量曝光。签名积累到4000多人，诉求清晰。谷歌不应卷入战争，谷歌及其供应链生态永应不发展战争科技。请求公司撤出美国国防部项目。

多家重量级媒体对谷歌咬住不放。

在与《纽约时报》的对话中，谷歌高管澄清：“这项技术可以拯救人的生命，并让工作人员从大量的重复性劳动中解脱出来”。发言中存在着明显的逻辑问题，既然技术可以拯救人的生命，怎么不提技术可以要了人的性命。公众、媒体和员工对例行的几次沟通并不买账，大家心里都清楚，这时候，企业商业目标仍是谷歌高管的第一工作目标，利润与商业伦理水火不容，难以平衡。执意相信技术带来的正面价值的做法无法打动任何人。虽然也有媒体解释，谷歌的人工智能技术在军事项目中不是直接用于研发新式武器，但是舆论争执的关键在于：算法没有价值观，结果受技术的掌握者控制。维基揭秘公开40多万份有关伊拉克战争的美军机密档案，多于一半的死难者是手无寸铁的平民。没有什么遮羞布能够掩盖战争本质。

第二回

林暗草惊风，将军夜引弓

科技帝国犹如密不透风的铁桶，需要有人里应外合、暗渡成仓。危机时刻，谷歌员工将劳动合同置之度外。

国际机器人武器控制委员会（ICRAC）创始人等三位业界学者发起第二封公开信。这家曾经令人尊敬的公司全球声誉岌岌可危，公关事务雪上加霜。

公开信三位发起人包括Peter Asaro、Lucy Suchman、Lilly Irani。其中Lilly Irani为谷歌离职员工，Peter Asaro为国际机器人武器控制委员会（ICRAC）的创始人。

第二封公开信的诉求总结为：终止其与国防部的项目合同。承诺不发展军事技术，也不允许收集到的个人数据用于军事行动。保证不参与也不支持发展，制造，交易或使用自主武器; 并支持禁止自主武器的努力。

三位公开信的发布者以勇气和远见，引导历史事件的走向，成为反对大军的重要领袖。

公开信第一作者露西萨琪曼（Lucy Suchman）。

博士是兰卡斯特大学（University of Lancaster）科学研究和社会学系的教授。她的研究跨越了计算机技术支持的合作、科学技术研究和女权主义理论领域，并关注人类学应用于新的技术。1987年出版《计划和情境行动：人机通信问题》，2007年出版《人类与计算机的重构》，使其收获了在人机交互领域非常重要的影响力。她也是人机交互领域终身成就奖获得者。

公开信的第二作者，莉莉·伊拉尼（Lilly Irani）。

谷歌前雇员。网络资料显示她本科、硕士均毕业于斯坦福大学，在加州大学欧文分校取得博士学位。现任加州大学圣地亚哥分校科学研究副教授。曾在2016年被邀请在白宫人工智能技术政策峰会进行演讲。

公开信的第三作者，彼得阿萨罗（Peter Asaro）。

博士在人工智能，机器学习和机器人视觉等领域进行创新研究。他多年以前便关注自主武器与科技伦理议题的发展。2009年，创立了国际机器人武器控制委员会（也是本次公开倡议的发起机构）。曾在美国国家超级计算机应用中心、贝克曼先进科学与技术研究中心工作，曾经参与知名计算机自然语言项目，该项目成果至今被苹果手机的语音助手Siri和必应（Bing）所使用。既是技术专家，也是致命自主武器的法律和伦理领域颇有影响力的思想家。

就是在以上三位的发起和带动下，九十余名相关领域学者和科学家最先参与公开签名后，有超过1100位支持者签名，后期参与者来自的领域明显跨越了多个学科，包括传播学、公共管理、法律、社会科学、哲学、人类学等领域的学者，以及工程师、普通技术人员等。

（公开信签名地址：https://www.icrac.net/open-letter-in-support-of-google-employees-and-tech-workers/）

 第三回

不破楼兰终不还

抗议没有给谷歌喘息的机会，给第二封公开信打前站的是12名谷歌员工向公司集体请辞。离职员工诉求非常清晰，向军方提供技术，已经触犯了谷歌“不作恶”的公司理念。他们很清楚，人为什么工作，要为什么样的企业工作。

事态出现了各路英雄合力围剿之势。角力进入了白热化，最终，有人不顾一切的黑入了谷歌的内部邮件系统，截获谷歌内部邮件。邮件显示，即使重压之下，谷歌仍然期望能从人工智能的军事项目中获得订单，合同标的数字有望达到2.5 亿美元。

最后一根稻草压在了骆驼身上，谷歌首席执行官在全公司会议上表示，谷歌希望制定出“能够经受住时间考验”的指导原则，指导谷歌与国防和情报领域的合作。一些员工向媒体透露，预计在未来几周，谷歌将对内宣布这些原则。

纽约时报发来报道，谷歌将制定新的原则禁止人工智能应用到武器中，原则将如何在实践中应用为人所期待。这也是人类历史上，人工智能历史上，第一个关于如何约束和禁止人工智能技术应用到商业的伦理指导性文件。

胜利的果实终于被摘下，当地时间6月1日，谷歌正式宣布将不与美国国防部军事项目续约。谷歌高管内部例会上向员工发布该消息，现有合同为期18个月将在2019年3月到期，并承诺不再争取续约。

谷歌开放研究小组的创始人，人工智能研究人员Meredith Whittaker在社交媒体上激动的盛赞：“我为谷歌的决定感到非常高兴，并对所有为推动这一成功做出贡献的人深表敬意，这是值得的冒险。”

永不作恶已经成为谷歌旧的行为准则的一部分，它曾经这样被解释，谷歌员工通常把这句格言作为用户服务准则。但是“不作恶”远不止于此， “不作恶”是指为全球用户提供没有偏见的搜索服务。“不作恶”是指做正确的事，遵守法律，行为端正，与同事相互尊重。如今，谷歌的信一半的行为准则是

——做正确的事（do the right thing）。

结语

但使龙城飞将在，不教算法度阴山。

胜利来之不易，值得人们永远铭记。向参与和推动谷歌高管做出正确决定的每一个科学家和工程师致敬，也向孕育善恶有知的企业文化致敬，向所有具有社会责任感的企业致敬。（完）