监视资本主义：智能陷阱

Hello,

大家好，这里是壹脑云，我是Ting Zhang~

你是否经常在发完朋友圈、动态后刷新界面，看看多少人点赞？你是否经常被淘宝、B站、美团首页的内容推荐吸引并点进去查看？本打算退出聊天界面，但看到对方的“正在输入……”时你是否会暂缓退出等待对方的消息？

多一秒，再多一秒……社交网络的致瘾性设计如何夺走我们的时间？如何操纵着我们的生活？

2020年，Netflix请来前脸书（Facebook）业务拓展总监、“点赞”按钮设计师、图钉网（Piterest）前总裁、谷歌（Google）前设计伦理学家以及推特（Twitter）工程副总裁一众互联网科技公司的大咖，拍摄了纪录片《监控资本主义：智能陷阱》（The Social Dilemma,2020），为观众拆解社交网站的致瘾性操作及背后庞大的监控资本主义运作模式。

今天我们将和大家一起走进这个智能陷阱~

01 谁才是产品？

如果你没有为产品付钱，那么，你就是产品
在微信、QQ上我们可以免费聊天而不用付短信费；在微博、今日头条上我们可以免费获取国内外的新闻和大牛的观点，而不用付有线电视费、报刊费以及会议费……

为什么这些app是免费的？为什么我们作为用户使用他们的产品却不用付钱？

片中给出了这样的答案：使用者认为自己在享受虚拟世界的免费产品，却不知自己正被贩卖。实际上是广告商在付钱让我们免费使用这些软件，广告植入、产品推荐在页面中随处可见，我们才是被出售的“产品”。

图片来源：《监视资本主义：智能陷阱》

问题来了，如果我们是产品，那么我们的什么值得被贩卖？

我们首先会想到的是我们的个人信息。在这个时代，正如今日头条的Slogan所说，“信息创造价值”。科技公司会不会把我们的信息贩卖给各种厂商？这样的疑虑并非空穴来风，在我们的生活中经常会收到各种不明的消息或电话。一个可笑的案例是，我们学校指定使用的APP今日校园在信息泄露的榜单上常据一席之位。

不过在此片中，前谷歌设计伦理学家Tristan Harris指出，社交网站的使用者担心自己的数据会被科技公司作为商品出售，以获取利益，但实际上这是一种误解——像脸书（Facebook）等科技公司的商业兴趣肯定不是放掉这些数据，而是通过这些数据来预判我们行为的模式，拥有最优秀模型的公司就赢了。

所以更准确的说法是“产品其实是我们行为和认知的逐渐的、一点一点的、我们未察觉到的变化（行为和认知方面）”。

图片来源：《监视资本主义：智能陷阱》

我们是如何成为产品的呢？

有学者认为，这与 “注意力经济”有关。普通心理学中定义注意为心理活动或意识对一定对象的指向或集中（彭聃龄，2013）。更通俗地说，注意力就是把精神活动投注在特定的资讯项目上，这些特定项目进到我们的意识中，引起我们对特定项目的注意，然后我们便决定是否采取行动。

诺贝尔奖获得者赫伯特·西蒙在对当今经济发展趋势进行预测时也指出："随着信息的发展，有价值的不是信息，而是注意力。"只有大众对某种产品注意了，才有可能成为消费者，购买这种产品。

注意力在互联网时代之重要，主要归结于其本身的指向性、选择性和有限性。指向性即注意力下意识会指向或集中一定的对象，从而增加了商品的潜在消费可能；而选择性和有限性使得注意力在资讯冗杂的互联网时代成为商家争抢的认知资源——吸引人们的注意力往往会产生商业价值。

同时，注意力的被动剥夺带来的不仅仅是我们的“被消费“。乔纳森·克拉里（Jonathan Crary）在《知觉的悬置》中指出，注意力实际上并不是一个简单的凝视和视觉问题，它包含一系列术语和立场。

当使用者的注意力在无意识之间，被互联网上的操作所吸引，“我们创造了一个世界，在这个世界中，在线联系变成了主体。”而此时，“文化的意义就是操控。”影片还警示，在这一技术环境中民主也可被完全出售，“你可以控制任何你想控制的思想。”

02 什么样的陷阱？

楚门的世界——被操控的人偶
它不在乎你会做什么，它的目的只有三个：

1.让你沉迷，让你参与。

2.让更多的人沉迷和参与。

3.让广告商（企业真正的客户）赚钱。

不过即使是这样，这个陷阱听起来并非十恶不赦。我很好奇，点赞、内容推荐、正在输入……社交网络的这些致瘾性设计不过就是吸引了我们更多的注意，花费了我们更多的时间，难道还会造成更大的危害吗？

影片的答案是：会的。

A. 对消费的影响——资本主义的猎物

大型互联网公司通过追踪、监控、评估每个使用者的每个操作，来判断使用者的神经类型和性格特征，从而在使用者的浏览页面上投放“个人化”、“量身定制”的“精彩内容”，在最有效的时间和位置上投放广告，让人们在不知不觉中成为资本主义的猎物。

所以大数据、推荐算法、用户画像…这些技术无一不是为了向我们更好的推荐“我们可能喜欢的”，不过倒不如说是把我们更精准地推荐给适合的广告商。

图片来源：《监视资本主义：智能陷阱》

B. 对观点的影响——文化与政治的工具

互联网对个人观点的影响是巨大的，网络才是我们当下主要的信息食用地。社交网络的部分设计会导致“信息茧房”的存在，基于不同的食用信息，我们会看到完全不一样的世界，并且觉得其他人不可理解。

我并不太相信“信息茧房”的观点，一些内里的自负告诉我“我在网络中是自由的”。不过在对比完自己和朋友的朋友圈、B站之后，我对此感到挫败。每个人看到的可能都是事实，但不一定是真相，而我们接受了当前世界就是真实的事实。

这种对观点的影响被扩散到群体时，便是群体的狂欢。

这一方面表现为集体的情绪化——情绪基于社交网络进行传播和放大，极端的言论、危险的模仿变得容易复制，微博便是很好的证明。

同时，影片后半段也以美国为例，指出在社交网站的影响下“个人和政治分化达到二十年来最高”，并提醒观众：在监控资本主义的操纵下，民主可以被“完全合法化”的方式被操控。片中也插播了记者追问脸书创立者扎克伯格（Mark Zuckerberg），是否承认脸书影响了2016年美国大选的片段，扎克伯格并未给出确切的回复。

另一方面，这种影响表现为虚假信息的快速传播——推特上虚假新闻的传播速度是真实新闻的六倍。人们难以分辨真相，因为寻找真相的成本太高且太难。而实际上虚假信息在概率上更容易被人们相信，因为人们往往不需要真相，他们需要的只是他们想要的“真相”。我们就像生活在《楚门的世界》里，自己所接受的信息被各种社交媒体操纵着。

03 我们可能逃脱吗？

如何面对传播学+心理学+人工智能的降维打击

人被配置于监控资本主义所建构的网络之中，我们以为在自由地做出选择，但实际上早已被这一知识与权利失衡的模式强加了种种不合理的选择。然而，我们对此不仅别无选择而且几乎束手无策。
片尾也仅仅提出，这些大咖们自己设计种种互联网交互技术，但极为反对自己的小孩使用手机和社交网站。至于对抗成瘾的解决方法，他们也只是给出诸如“关掉提醒（notification）”、“不要点击推荐内容”、“关注与自己意见不同的人”等等。
影片将负面责任归于“看得见的”技术，颇有避重就轻之嫌。肖莎娜根据社会学家马克思·韦伯的观察，指出经济目的才是技术开发及其部署所固有的：“经济行动”决定目标，而技术只是经济的“适当手段”。监控资本主义采用了许多技术与平台，但其本身并不等同于这些技术、平台和算法。因此，不该忘记的是，技术不过是利益的体现，而隐藏其后的正是那“看不见的手”，那些控制数字环境并引导我们未来发展方向的资本力量。
本片的主旨不外于“网络科技已逐渐演变成操弄我们与社会的巨兽”。但实际上，人类在技术发展之下，被纳入其构建的技术和社会网络，从而在不知不觉中被权力操纵已不是什么新鲜事，并非直到互联网、人工智能世代才有。
为了有效地治理、巩固国家的综合实力与地位，个体早已被“配置”在医疗技术所构建的“医药资本主义”网络之中，而收集人类行为数据（behavioral data）并修改人类行为的人工智能技术，不过是从另一方面将人类同时嵌入“监控资本主义”当中，它亦是将治理规模与经济、政治成本的降低都推到更加极致的地步。
更重要的问题是，正如肖莎娜所指出的：如果说，工业资本主义危害了自然，那么，监控资本主义会对人性造成怎样的破坏？数字技术与监控资本主义能够成为人类的栖身之所吗？

参考资料：

1. 纪录片《监视资本主义：智能陷阱》
2. 新京报书评周刊《点赞、内容推荐、正在输入……社交网络的致瘾性设计如何操纵着我们的生活？》

• END -

编辑 | Ting Zhang
校对｜喵君姐姐