“算法”的茧房，如何破局？

最新推荐文章于 2024-09-21 17:56:48 发布

我爱计算机视觉

最新推荐文章于 2024-09-21 17:56:48 发布

阅读量742

点赞数

文章标签：搜索引擎 python 编程语言人工智能 java

最近，“算法”突然成为千夫所指。从之前看到的《外卖骑手，困在系统里里》到昨天看到的《如何拯救困在“算法”里的孩子？用户应有“关闭算法”的选择权》，算法似乎一夜之间跌落神坛，成为道德卫士们口中人人喊打的过街老鼠。其实，算法在计算机领域只是一个中性的名词而已。程序=算法+数据，算法的好坏只在于它的准确性和复杂度。然而，现在算法突然背负上了沉重的道德评价，成为一个复杂的社会话题。

“算法”是不是一切问题的原罪？面对“算法”，我们有没有反抗的能力？

我先从上次的同学聚会说起。

南大计算机系的几个老同学聚餐，话题突然聊到了某短视频推荐平台。

某个同学提议大家把这个APP打开，让大家看看各自被推荐的内容。有些童鞋看到这儿未免内心一阵哆嗦：真毒辣！

互联网界早期有句名言：互联网上，没有人知道你是一条狗。但在算法时代，对方不仅知道你是一条狗，还知道你是斑点狗还是哮天犬。

算法面前，人人都在裸奔。

同学A：APP推给他的都是喝酒视频，因为他关注酒。

同学B：没给他特地推荐什么，因为他很少登录，点击内容时也非常注意，所以APP抓不到他的兴趣点……

我一看，给我推荐的大多是网校课程和军事时政新闻。

我昨天在朋友圈转了《如何拯救困在“算法”里的孩子？用户应有“关闭算法”的选择权》这篇文章后，另一个同学留言：支持，害的我新闻只敢看标题，不敢点进去。

这篇文章里所批判的算法，其实应该有一个更狭义的名称：个性化推荐算法。

我们这几个同学，属于了解推荐算法、不愿意被推荐算法奴役的计算机从业人员。如今点击这些推荐平台的内容必须非常谨慎。一不小心点了几次某类内容，推荐内容就会源源不断地到达。

算法困局破局方法之一：假如你不小心点击了低俗内容，那就必须用更多的健康内容来弥补，从而引导算法的判断。比如搜索抗疫、数学、地理之类的话题，在搜索结果中点上五六个并试着慢慢看完。这是对“推荐算法“奴役说不的一种方式。

然而，很多青少年和老年人并不了解推荐算法，算法给他们量身定制了“茧房”，很多人都活在不同的平行世界里。

个性化推荐算法本来是为商品的精准营销量身定制的一种技术。可谁也没想到它会被大规模用到内容推荐上来。推荐算法会收集你的个人属性、实时位置、点击、关注、搜藏、浏览、分享、点赞、点评等信息，为每个人实时动态调整推荐内容。

最终，推荐算法为每个用户创建了一个虚拟的平行世界。在算法的控制下，一些人生活在满眼都是爱的世界，一些人却生活在充满谎言的世界；一些人生活的世界剑拔弩张，似乎战争每天都一触即发，另一些人生活的世界则每天都纸醉金迷。这些人被困在不同的世界中无法自拔，慢慢地，他们就会认为世界就是这个样子。

社交平台在青少年和老人中已经非常流行。某次接孩子回家，看到一个小学高年级孩子边走边刷短视频。我瞄了一眼，是个美女直播。青少年自制力不强，多观看了这样的内容，就会被困在系统里，难以自拔。除了这类低俗的内容，游戏和暴力的宣传内容，也是毁掉孩子的根源。许多老人则生活在另一个平行世界，这个世界到处都充斥着难辨真假的养生和理财等宣传。

那么，算法是否就应该被人唾弃呢？其实这涉及信息披露和选择权的问题。

每个硬币都有两面性。

先说选择权。

内容传播，经历了从电视到互联网的变迁。相较于电视，人们为什么更青睐互联网呢？一个主要原因就是在互联网上我们可以按需获得自己想要的内容，而不是被动地接受电视的推送。

从内容获取的角度来看，我认为互联网发展至今，可以分为三个阶段：前搜索引擎时代、搜索引擎时代、后搜索引擎（即个性化推荐算法）时代。

前搜索引擎时代，信息获取的主要渠道还是靠口口相传和广告，算法还没有登上历史舞台。

搜索引擎是信息传播领域的一场革命，建立了前所未有的超级信息数据库，根据匹配算法来返回搜索结果。既然是匹配算法，这里面就有许多猫腻，比如大家经常吐槽的难以搜到有用结果的问题。

现在我们处在后搜索引擎时代，除了不得不查一些东西，我们已无需主动搜索就能获得“感兴趣”的东西。省去“搜索”这一步骤，本来应该是一种进步。但问题是现在的平台中，算法过度解读了我们的兴趣，给我们创建了一个个茧房，让我们活在被隔离的平行世界中。

我们得到了信息获取的便利，但却失去了自主选择权。

很多道德人士于是振臂高呼：平台要给人们留下“算法”的选择权，用户需要拥有“关闭算法”的权利。其实对于平台而言，是否给人们留下“算法”的选择权是一个伪命题。呈现在你面前的内容，都是算法的结果。

选择权破局的关键，在于公民对隐私权的认知。我们要保护的不是算法关闭权，而是隐私权。个人的阅读历史和阅读行为，都应该属于个人隐私。

但隐私这东西，在中国真的有多少人在乎？

其实，很多平台是给用户选择权的，只是很多人无所谓或者是不知道如何设置。

算法困局破局方法之二：熟悉APP提供的选择权。

“今日头条”是选择权做得比较好的APP。

首先，设置里的隐私栏里有“个性化推荐“的选项，默认是打开的。

打开状态下，APP的首页显示有“推荐”栏。

将其关闭后，则“推荐“栏消失，改为”热点“栏。

而在隐私的“个人信息收集设置“里，有两个选项，分别是无痕搜索和无痕阅读。

默认情况这两个选项是打开的，将无痕搜索关闭后再搜索，系统就不会收集你的搜索记录。

再来看抖音软件。

抖音的选择权分为两部分：是否使用本软件的选择权，以及使用本软件后的部分隐私保护权。

抖音设置中专门有“隐私政策“一项，给出了长长的条文。

条文一开始就告诉你使用抖音之前要阅读和理解该隐私政策，以便做出适当的选择。

因此，你有使用或不使用抖音的选择权。

重点在下面这句话：为实现功能、服务所必需，我们会收集、使用相关信息。

针对大家关心的内容推荐，条文是这么说的：为保障推荐内容的质量并向您推荐可能感兴趣的视频及相关信息，抖音可能会收集相关必要的日志信息。

日志信息包括的内容显示：操作使用的行为信息都属于必要信息，而地理信息则不是必要信息。

在隐私设置里，我还没有找到类似于“今日头条”一样的关闭推荐选择的设置。

当然，隐私设置界面给出的隐私选项是可以关闭或打开的，也在隐私政策文件中有详细说明。

所以，对于这些平台来说，选择权基本已经都交给你了，只是，默认方式是打开的。

在这一场平台与用户的博弈中，平台无疑是强势的一方。默认开启基于隐私的算法推荐，会招致大众可能的反弹，实为不可取。一个好的应对方法是在安装时以更显著的方式将隐私配置的选择权交给用户，来替代默认配置，以此最大程度保护弱势一方用户的选择权利，这应该是算法困局破局方法之三，也是平台目前能立即改进的。

但是，选择权只是硬币的一面。

再说信息披露。

有一个美国的老奶奶，老伴因过度吸烟引起的肺癌去世了，医生鉴定为尼古丁中毒而死。

于是，老奶奶一怒把造烟厂告上了法庭，说烟厂有责任，明知道香烟会治人于死亡，为何不在烟盒上标明，她跑遍全国打了7年官司，此事得到了法院的认同，并且规定以后任何的香烟盒上都得标明此条并且面积不得小于包装可见部位面积的1/3。

“吸烟有害健康”，但烟没有消失。

算法也不会消失，但算法可能也正面临着一群这样的老奶奶。缺的，是对算法副作用的认定。

而算法的副作用，应该是整个社会的一个研究课题。而这，也将成为算法困局的最终破局之路。

作者简介：

昍爸，计算机博士，教授，曾获初中和高中全国数学奥林匹克联赛一等奖，江苏赛区第一名，高考数学满分。

END