透视Facebook算法帝国 ，我们只是工程思维的螺丝钉

本文讲的是透视Facebook算法帝国 ，我们只是工程思维的螺丝钉

扎克伯格对黑客的幼稚迷恋从未消失

硅谷所自称的所有价值都是60年代的价值。大型科技公司将自己当做个人解放的平台。人人都有权在社交媒体上表达自己的想法，实现自己的智力潜能和民主潜能，展现自己的个性。如果说电视曾经是一种被动的媒介（passive medium），使公众变得没有活力，Facebook则是参与性、使能的。它让用户广泛地阅读，自主思考，形成自己的观点。

我们不能完全否认这种说法。世界上还有一些地方，甚至在美国的一些地方，Facebook是鼓励公民，让他们自己组织起来反对权力的。但是，我们也不能认为Facebook的自我观念是真诚的。Facebook是一个管理完善的、自上而下的系统，而不是一个健全的公共广场。它模仿了一些对话的模式，但这只是它的表面。

而实际上，Facebook是一堆用于信息分类的规则和程序，这些规则和程序是为了公司的最终利益而设计的。Facebook一直在监视着用户，对他们进行审核，将它们当做行为实验的小白鼠。虽然它给人印象是它有提供选择，但事实是，Facebook家长式地将用户推向它认为最适合他们的方向，这也是令他们彻底沉迷的方向。这在Facebook的掌门人那压缩的、历史性的职业生涯中是最为明显的一种伪善。

马克·扎克伯格（Mark Zuckerberg）是个好孩子，但他想要学坏，或者只是想变得不那么乖。他青春期时的英雄是真正的黑客。不是恶意的数据盗贼或网络恐怖分子。扎克伯格的黑客英雄是对权威的反叛者。从技术上看，他们是技术精湛、足智多谋的nerd，他们不受束缚于传统思想。60年代70年代间，在MIT实验室，他们打破了所有妨碍早期的计算机的规则，做出了许多令人惊叹的东西，比如第一个电子游戏和第一个文字处理软件。

当扎克伯格于2002年秋天来到哈佛时，黑客的全盛时期早已过去。但扎克伯格也想当黑客，他也曾对规则不屑一顾。高中时，他解开了阻止外人篡改AOL代码的锁，并在其即时通讯程序添加了自己的改进。大二时，他开发了一个名为Facemash的网站，这是一个哈佛版美女评选网站。它每次将两张女生的照片放在一起，让用户选择哪一位更迷人。每一回合的优胜者都晋级到下一轮。为此，扎克伯格需要照片。他从哈佛各个学院的服务器上窃取了这些信息。“有一件事情是肯定的，”他在博客上写道，“做了这个网站，我是个混蛋。”

他的叛逆的短暂实验以向哈佛纪律小组和校园女性团体道歉结束，并琢磨了如何挽回名声的策略。在那之后的几年里，他展现出反抗并不是他天生的倾向。他对权威的不信任如此之大，以至他找到时任华盛顿邮报公司CEO的唐·格雷厄姆（Don Graham）做他的导师。在他创立Facebook之后，他跟踪了美国各大巨头公司，以便近距离地研究他们的管理风格。

尽管如此，扎克伯格对黑客的幼稚迷恋从未消失——或者说，他把这种迷恋带入了自己的新的、更成熟的化身中。当他终于有了自己的公司时，他为它买了一个地址：One Hacker Way。他设计了一个广场，混凝土上嵌着“HACK”一词。在公司园区的中心，他创建了一个名为“黑客广场”（ Hacker Square）的开放会议空间。当然，这是Facebook员工参加黑客马拉松活动的场所。正如他所说，“我们整体上有这样的精神，我们想要建立一种黑客文化。”


Facebook总部地址所在的1 Hacker Way 摄影：Alamy

许多公司也有类似的黑客文化——黑客是“颠覆者”——但没有一个公司走得像Facebook那样远。当扎克伯格开始赞美黑客文化时，他已经将黑客最初的含义去掉了，并将其提炼成一种几乎不带有反叛意味的管理哲学。他对一个采访者说，黑客“只是这群试图快速开发，挑战力所能为之极限的这群计算机科学家。这正是我所鼓励我们的工程师的。”黑客才是Facebook的优秀员工，是Facebook的负责任的一员——这是该公司采取激进个人主义的方式，并因循守旧地应用的缩影。

扎克伯格将黑客精神提炼成一句座右铭:“快速行动，打破常规。”（Move fast and break things）。事实是，Facebook的发展速度比扎克伯格想象的要快。随着Facebook的扩张，它需要向它的投资者，向它的用户，向全世界证明它的规模。它需要快速成长。在它不长的生命中，公司不断地自我标榜。它标榜自己是一个工具、一个公用事业、以及一个平台。它标榜开放性和连通性。在所有这些自我定义的尝试中，它终于做到了阐明自己的意图。

Facebook 创始人 Mark Zuckerberg 和 Chris Hughes 在哈佛大学，2004年5月。摄影： Rick Friedman/Corbis via Getty

尽管Facebook偶尔会谈论政府和企业的透明度，但它真正想要推进的是个人的透明度，或者它在不同时期所称的“激进的透明度”或“终极的透明度”。理论认为，公开分享亲密细节将消除我们生活中的道德混乱。由于自己的尴尬事有被传播的威胁，我们会表现得更好。也许无处不在的受牵连的照片和证据确凿的揭露将使我们对彼此的罪恶更加宽容。“对你的工作伙伴、同事以及其他认识你的人来说，你拥有不同的形象的日子可能很快就会结束。”扎克伯格说：“为自己塑造两个身份是缺乏诚信的例子。”

关键在于，Facebook对“哪些内容对你最有利”这件事，它抱持一种强硬的、家长式的观点，它试图把你运送到那些内容中。扎克伯格说：“要让人们到达更加开放的点，是一个很大的挑战，但我想我们会做到的。”他有理由相信他会实现这个目标。Facebook拥有庞大的规模，积累了巨大的权力。“从许多方面来看，Facebook更像是一个政府，而不是传统的公司。”扎克伯格说：“我们有很多用户，我们比其他科技公司更会制定政策。”

自动化取代人类的心智过程，使大脑变得冗余

不为人知的是，扎克伯格是长期政治传统的继承者。在过去200年里，西方一直无法摆脱一个由来已久的幻想，是一个梦想图景，抛弃那些没用的政客，让工程师们来取代他们。法国人是第一个在革命的血腥、混乱的后果中接受这一观念的人。这个国家最有影响力的哲学家（特别是圣西门和孔德）小圈子真正地撕裂了这个国家的进程。他们痛恨所有古老的寄生力量——封建领主、牧师和军阀——但他们也害怕暴民的混乱。为了解决这一分歧，他们提出了一种技术官僚（technocracy）的形式——工程师和各种技术人员将基于仁慈的利益来统治。工程师们将在科学精神下，剥离权力的旧秩序，加诸理性和秩序。

这个梦想从那时起就吸引了知识分子，尤其是美国人。伟大的社会学家Thorstein Veblen痴迷于在权力系统中安插工程师，1921年，他出版了一本书来阐述他的观点。他的愿景短暂地变成了现实。在第一次世界大战后，美国的精英们被这场战争所引发的非理性冲动所震惊——仇外心理、种族主义、对私刑和暴乱的渴望。当经济生活的现实变得如此复杂，政客们怎么可能管理这些?美国人开始向往那个时代最著名的工程师：赫伯特·胡佛（Herbert Hoover）。1920年，富兰克林·罗斯福组织了一场运动，起草胡佛候选总统。

最终，胡佛实验几乎是完全没有实现“工程师统治者”的美好幻想。不过，这个梦想的一个完全不同的版本已经实现，以大科技公司的CEO们的形式。我们不是被工程师们统治了，还没有，但他们已经成为了美国生活中的主导力量——精英阶层中最高、最具影响力的阶层。

描述这一历史进程的还有另一种方式。自动化已经如洪水般涌现。在工业革命时期，机器取代了体力劳动者。最初，机器需要人工操作。随着时间的推移，机器已经几乎不需任何人为的干预。几个世纪以来，工程师们将体力劳动自动化了；而我们新的工程师精英将思维自动化了。他们完善了取代人类的心智过程（ intellectual processes）的技术，使大脑变得冗余。事实上，我们已经开始把我们的智力工作外包给那些建议我们应该学习什么，应该考虑哪些话题，以及我们应该购买什么东西的公司。这些公司侵入我们的生活的理由，正是圣西门和孔德所阐述的观点：他们为我们提供了效率；他们正在对人类生活施加命令。

没有人能比扎克伯格更好地表达工程师力量对改造社会的信念。他告诉一群软件开发人员，“你要知道，我就是工程师，我认为工程思维的关键是一种希望和信念，即你可以把任何一个现有的系统做出来，并且把它做得更好。所有东西，无论是硬件还是软件，还是一个公司，还是一个开发者生态系统，你都可以仿造出来，并且要做得比它好很多。”如果扎克伯格的理由变得流行（它会的），那么世界将会变得更好。

Facebook力量的来源：使思考自动化的算法

Facebook 力量的确切来源是算法。这是一个在几乎每个科技巨头的故事中重复的概念，但是对于那些网站的用户来说，它仍然是模糊不清的。从算法被发明的那一刻起，你就可能看到它的力量，它的革命性的潜力。算法是为了使思考自动化（automate thinking），为了从人类手中消除做艰难决定的过程，为了解决激烈的争论而开发的。

算法的本质是完全不复杂的。教科书里将算法比作食谱——可以不费心思地进行的一系列精确的步骤。这与方程不同，方程有一个正确的结果。算法仅仅是捕捉到解决问题的过程，并不说明这些步骤最终会导致什么结果。

这些食谱是软件的关键组成部分。程序员不能简单地命令一台计算机，比如说，让它在互联网上搜索。他们必须给计算机一套特定的指令来完成这项任务。这些指令必须处理混乱的人类活动，从中寻找信息，并将其转换成一个可以用代码表示的有序过程。先做这个，然后做那个。从概念到程序再到代码的翻译过程本质上是以简释繁的。复杂的过程必须被细分成一系列的二元选择。没有什么公式可以给你提供穿哪件衣服的建议，但可以很容易地为它写一种算法——通过一系列二选一的问题(例如，早上还是晚上、冬天还是夏天、晴天还是雨天)来解决，每一个选择结束后都将推到下一个选择。

在计算领域最初的几十年里，“算法”这个词并没有经常被提及。但是，随着60年代大学里开始设立计算机科学系，这个获得了新的声望。它的流行是身份焦虑的产物。程序员们，尤其是在大学里的程序员们，都急于声明他们不仅仅是技术人员。他们开始把他们的工作描述为算法，部分原因是算法把他们与一个伟大的数学家联系在一起——波斯数学家穆罕默德·伊本·穆萨·花拉子米（Muhammad ibn Musa al-Khwarizmi），或者他更为人熟知的拉丁语名字Algoritmi。12世纪时，花拉子米将阿拉伯数字引入西方；他也是开创代数和三角学的先驱。通过将算法描述为编程的基本元素，计算机科学家们将自己与一个伟大的历史联系在了一起。这是一个很有智慧的名字：看，我们不是暴发户，我们研究抽象和理论，就像数学家那样！

花拉子米的一尊雕像，在乌兹别克斯坦。摄影：Alamy

在这种自我描述中，有一种巧妙的手法。算法可能是计算机科学的本质——但它并不是一个科学的概念。算法是一种系统，就像管道系统或军事指挥系统一样。要使系统正常工作，需要专业知识、计算能力和创造力。但是某些系统，比如军队，比其他的系统更可靠。一个系统是一个人的人工制品，而不是一个数学上的真理。算法的起源无疑是人类，但人类的易错性并不是我们与之关联的质量。当算法拒绝贷款申请或为航空公司的航班设定价格时，它们似乎没有人情味，非常固执。算法应该没有偏见、直觉、情感或同理心。

硅谷的算法狂热者对于描述他们的情感对象的革命性潜力是傲慢的。算法总是很有趣，很有价值，但是计算的进步使它们变得更加强大。最大的变化是计算的成本：它崩溃了，就像机器本身加速并被连接到一个全球网络中一样。计算机可以储存大量未分类的数据——而算法可能会攻击这些数据，从而找到能够避开人类分析人员的模式和连接。在谷歌和Facebook的掌控下，这些算法变得越来越强大。在他们的搜索服务中，他们积累了越来越多的数据。他们的机器吸收了过去搜索的所有经验，利用这些经验来更精确地提供所期望的结果。

对于整个人类存在来说，知识的创造是一个艰难的反复试错的过程。人类会思考关于世界是如何运作的理论，然后检验证据，看看他们的假设是否会在现实中存在。算法颠覆了科学的方法——模式从数据中产生，从关联性中产生，它不受假设的指导。他们把人类从整个创造过程中踢开了。当时连线杂志的主编Chris Anderson撰文写道:“我们可以停止寻找模型。我们可以在没有假设的情况下对数据进行分析。我们可以把这些数据输入到世界上最大的计算集群中，让统计算法去找到科学不可能找到的模式。”

在某种程度上，这是不可否认的。算法可以在不理解单词的情况下翻译语言，只需通过揭示句子结构的模式。算法可以发现一些人类甚至永远不会想到要去寻找的偶然。沃尔玛的算法发现，人们在为即将到来的大风暴做准备时，会拼命购买草莓馅饼。

然而，即便一个算法无意识地实现了它的程序——甚至当它学会在数据中看到新的模式时——它也反映了它的创造者的思想，它的训练者的动机。亚马逊和Netflix使用算法对书籍和电影提供推荐。(亚马逊上有三分之一的购买是来自这些推荐。)这些算法试图理解我们的品味，以及志趣相投的其他消费者的品味。然而，这些算法却给出了与我们的品味截然不同的建议。亚马逊会给你推荐你以前看过的书，Netflix会将用户引向不熟悉电影。这种差异有些是商业原因。大片电影让Netflix的流媒体成本更高。当你决定看更多不知名的电影，它会得到更多的利润。计算机科学家们有一句老话，描述了算法如何无情地寻找模式：他们谈论如何折磨数据直到它坦白。然而，这个比喻包含了未经审查的含义。数据，就像酷刑的受害者，告诉审讯者想要听到的任何事情。

像经济学一样，计算机科学有偏好模型和关于世界的隐含假设。程序员在学习算法思维时，都将效率视为首要考虑因素。这是完全可以理解的。但当我们加快速度的时候，我们一定会牺牲别的东西。

算法可以是华丽的逻辑思维表达，甚至惬意和奇迹。很快，算法就将引导无人驾驶车辆，并且精确定位我们体内的癌症。但是，要做所有这些事情，算法不断地接受我们的指引和规范。算法代表人类作出决定。问题在于，当我们把想法外包给机器时，我们也真正将思考外包给了运行机器的组织。

扎克伯格：并不聪明的算法评论家

扎克伯格将自己塑造成了一个算法评论家，但并不聪明那种。他与身在谷歌的对手形成了鲜明的对比。在Larry Page的那里，算法是一个冷酷无情，内心毫无波动的统治者。算法的推荐没有生命力的痕迹，对将查询键入自己引擎的人类也没有什么明确的理解。Facebook则不同，就像数千万张图组成的扎克伯格自画像所体现的那样，这家公司是这个日益自动化的原子世界的喘息。扎克伯格说：“你所使用的每一种产品，都因你的朋友而变得更好。”

扎克伯格指的是Facebook的新闻资讯（Newsfeed）。Facebook的新闻资讯收录了你的朋友发布到Facebook的所有状态更新、文章和照片，发布时间最新的排在最前。本来做新闻流是为了生活乐趣，但也是为了解决现代性的一个重要问题——我们无法筛选不断增长的，永远围绕在我们身边的信息洪流。理论上讲，有谁能比朋友更适合推荐我们应该阅读和观看的信息的呢？扎克伯格宣称，新闻流将Facebook变成“个性化报纸”。

不幸的是，我们的朋友并不能我们做多少。他们喜欢分享很多东西。如果我们只是阅读他们的想法，并且跟随文章的链接，我们可能只会比以前好那么一点点，甚至被更深的信息洪流所淹没。所以，Facebook就自己决定我们应该看什么。这家公司的算法将Facebook用户可能会看到的数千种物品分成较小批量的选项。然后在这几十个项目中，算法决定了我们可能首先阅读什么。

根据定义，算法（Algorithms）是无形的（invisibilia）。但我们通常可以感觉到算法的存在——在远处的某个地方，我们正在与一台机器进行交互。这就是Facebook的算法如此强大的原因——研究表明，最多的时候，60％的用户是完全不知道Facebook算法的存在。但是即使用户知道Facebook算法的影响力，这也并不重要。因为Facebook的算法简直不能更不透明了。Facebook的算法已经成长为一个几乎不可知的各种变量纠缠。负责解释超过100,000个“信号”来做出关于用户看到什么的决定。其中一些信号适用于所有Facebook用户；一些反映了用户的特殊习惯和朋友的习惯。也许，Facebook都不再完全理解自己那盘根错节的算法。

我们可以说，Facebook正在不断地修改用户如何看待这个世界，通过不断调整能够显示到用户面前的新闻和意见的质量，调整政治和文化舆论，为了吸引用户更多的关注。

但是，工程师怎么知道具体去调整？现在，有一门学科，数据科学，指导算法的编写和修订。Facebook拥有一个从学术界偷猎而来的团队，对用户进行实验。这可谓统计学家最性感的梦想——人类历史上最大的一些数据集，能够在数学上有意义的队列中进行试验。 Facebook前数据科学团队负责人Cameron Marlow回忆自己得到这个机会时，他开始抽搐，变得欣喜若狂。他说，我们有一台显微镜，它不仅让我们以精细水平检查我们从未见过的社会行为，而且允许我们进行规模涉及数百万用户的实验。

Facebook的喜欢标榜自己的实验。我们知道，Facebook曾经做实验探究情绪是否会传染。为了进行这项试验，Facebook试图操纵其用户的精神状态。对于一个组，Facebook将新闻流上积极的词语凸显出来；另一组则去掉了否定词。结果发现，每个组的用户发发帖时措辞都与他/她转发的这条帖子情绪类似。这项研究遭到了严厉的谴责，但它实际上并没有多么不同寻常。Facebook的数据科学团队的一名成员表示：“任何在那个团队的人都可以做一个测试。他们总是试图改变人们的行为。”

Facebook还做了更多实验。这家公司宣传自己是如何巧妙地放大迫使良性行为的社会压力，从而增加投票率（和器官捐献比例）。Facebook甚至把结果发表在同行评审的期刊上。一项2012年发表在Nature上的研究写道，“2006年至2010年间在投票的0.60％的增长，可能更多是由于Facebook上的一条消息造成的。”没有其他任何一家公司宣称自己在塑造民主上有这样的能力，而他们不这样说也是有理由的。对于一家公司而言，这样的权力太大了。

Facebook认为它已经释放了社会心理学的潜力，认为他们比用户更了解用户自己。Facebook可以预测用户的种族、性取向、婚姻状态和药物使用情况，全部都基于他们点赞的基础上。这是扎克伯格的梦想，只要分析这个数据就可以发现所有关系的源泉。在此期间，Facebook将继续探索——不断地试验，看看有什么是我们渴望的。

我们正处在思维自动化革命的开端，我们只是这个宏伟设计的螺丝钉

思维的自动化，我们正处在这场革命的开始。但是，我们已经可以看到它的未来。算法已经取代了许多曾经由人执行的官僚和文书工作，算法将很快开始代替人，从事更具创造性的任务。算法已经生成了美术作品，编写了交响乐曲，或者说至少生成了艺术和音乐的近似值。

这是一个可怕的发展轨迹。如果算法可以复制创造力，那么还有什么理由培养人类的创造力？当计算机完全可以生成类似乃至更好的东西时，而且毫不费力，为什么要历经千辛万苦写作或绘画？任何人类活动都抵制不住自动化的趋势，那创作活动又会有什么不同？

工程思维对文字和图像的迷恋、对艺术的神秘感、对道德复杂性或情感表达都没有耐心。它把人看作是数据，是系统的组成部分，是抽象。这就是为什么Facebook对在用户上进行大量的实验，却丝毫不感到良心之不安的原因。所有的努力都是为了让人类可以预测——预测他们的行为，这让他们更容易被操纵。这种冷血的思维，脱离了人生的偶然性和神秘，很容易理解长期的价值像是烦扰，为什么例如隐私这样的概念相对工程师的微积分其分量不值一提。

Facebook永远不会这样说，但算法的本意就是削弱自由意志，减轻人们选择的负担，将人们推向正确的方向。算法激发了一种全能的感觉，一种居高临下的信念，即我们的行为可以被改变，而我们甚至没有意识到是谁的手在引导我们。这永远是工程思维的危险性，因为它超越了构建无生命物质的根基，开始设计一个更完美的社会世界。我们只是这个宏伟设计中的螺丝钉。

原文发布时间为：2017-09-21
作者：Franklin Foer
编译：刘小芹 闻菲
本文来自云栖社区合作伙伴新智元，了解相关信息可以关注“AI_era”微信公众号
原文链接