机器之心报道
机器之心编辑部
亲戚朋友一刷短视频就不带停？ 这种现象已经非常普遍了，但推荐系统除了让信息传播速 度加快之外也不全是好事。
8 月 27 日，国家互联网信息办公室起草的《互联网信息服务算法推荐管理规定（征求意见稿）》出炉，正向社会公开征求意见。
本次《征求意见稿》所涉的范围非常广泛。《征求意见稿》中明确指出，所谓的算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
这意味着几乎所有使用机器学习等算法实行推荐策略的应用均属于监管范围内，其不仅包括抖音、快手等以内容推荐算法为核心竞争力的短视频 APP，微博、知乎、Bilibili 等各类用户生成内容（UGC）平台目前同样使用信息推荐算法。人们在微信朋友圈中常见的信息流广告，和购物网站首页出现的内容，其实也都是推荐算法的结果。
美团、饿了吗、滴滴等利用算法管理平台进行资源调配的公司也在管理范围之内。使用推荐算法的机构，几乎可以认为是所有大规模科技公司。
在征求意见稿中，我们可以看到一些值得关注的项目。
不得实施流量造假、流量劫持
征求意见稿中第十三条规定：算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持。
不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。
这意味着使用入侵账户等方式转发、点赞刷热度甚至直接排名造假的热搜及直播高人气等现象将受到更严厉打击。
必须向用户提供便捷的关闭算法推荐服务选项
征求意见稿第十五条指出，应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
当前众多互联网平台上均难以关闭算法，例如微信朋友圈中的广告。21 世纪经济报道等媒体曾指出，通过寻找设置功能，需要经过至少 14 个步骤才可以关闭六个月内的个性化定制广告。但在设置为「关闭」之后，用户其实仍会接收到普遍投放的广告。
在中国互联网协会法工委副秘书长、中消协律师胡钢看来，相关的广告服务设置如若是自动匹配和默认的，就应当「最多两三步就应该能够实现这种拒绝的方式。这是一种进出的匹配度、进出同等待遇。」
新规定是在互联网娱乐方式已发生巨大变革的背景下推出的。
最近几年，我们见证了短视频等新形式应用快速取代其他互联网娱乐，成为了人们在线消磨时间方式的首选，就连手机硬件设计都需要着重考虑对刷短视频的优化。
可作为对比的或许就是游戏了。国内疫情消退之后，随着人们生活节奏趋于正常，手机游戏人均时长从去年二季度的每天 30 分钟减少到了今年的 18 分钟，同比减 40%。而短视频应用的用户时长却不减反增，从去年的每天 1.4 小时增至今年的 1.5 小时，同比去年提升了 7%。
随着移动互联网普及接近饱和，人均屏幕时间增长接近停滞，如何占据更多的时间份额是各家互联网公司面临的难题，推荐算法作为一种高效的方式因而被广泛采用。这也意味着新技术需要进行规范。
互联网信息服务算法推荐管理规定
（征求意见稿）
第一条：为了规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展，弘扬社会主义核心价值观，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律、行政法规，制定本规定。
第二条：在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。
前款所称应用算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。
第三条：国家网信部门负责全国算法推荐服务的监督管理执法工作。省、自治区、直辖市网信部门依据职责负责本行政区域内算法推荐服务的监督管理执法工作。
第四条：算法推荐服务提供者提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。
第五条：鼓励相关行业组织加强行业自律，建立健全自律制度和行业准则，组织制定行业标准，督促指导算法推荐服务提供者建立健全服务规范、依法提供服务并接受社会监督。
第六条：算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。
算法推荐服务提供者不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息。
第七条：算法推荐服务提供者应当落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。
第八条：算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。
第九条：算法推荐服务提供者应当加强信息内容管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。
发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。
第十条：算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。
第十一条：算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。
第十二条：算法推荐服务提供者应当综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响、引发争议纠纷。
第十三条：算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。
第十四条：算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
第十五条：算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。
算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。
用户认为算法推荐服务提供者应用算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。
第十六条：算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息内容。
算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络。
第十七条：算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。
第十八条：算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
第十九条：国家网信部门建立分类分级管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。
第二十条：具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
算法推荐服务提供者的备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。
算法推荐服务提供者终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。
第二十一条：国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。
第二十二条：完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。
第二十三条：具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。
算法推荐服务提供者应当完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。
第二十四条：国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。
算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。
第二十五条：参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。
第二十六条：算法推荐服务提供者应当接受社会监督，设置便捷的投诉举报入口，及时受理和处理公众投诉举报。
算法推荐服务提供者应当建立用户申诉渠道和制度，规范处理用户申诉并及时反馈，切实保障用户合法权益。
第二十七条：算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十一条、第十二条、第十三条、第十四条、第十五条第二款、第二十二条、第二十六条规定的，由国家和省、自治区、直辖市网信部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
第二十八条：算法推荐服务提供者违反本规定第六条、第九条第二款、第十五条第一款、第三款、第十六条、第十七条、第十八条、第二十三条、第二十四条第二款规定的，由网信等有关主管部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。
第二十九条：具有舆论属性或者社会动员能力的算法推荐服务提供者违反本规定第二十条的规定，未按照要求备案或者在报送备案时隐瞒有关情况、提供虚假材料或者通过欺骗、贿赂等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门依法撤销备案，并给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。
具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照要求及时办理注销备案手续，或者发生严重违法情形受到吊销互联网信息服务许可、关闭网站、终止服务等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。
第三十条：本规定自 2021 年_月_日起施行。
有明确的按钮取消信息流方式推送，恢复时间排序，这样的规定应该会受到不少人欢迎。新规若最终获得实施，算法推荐领域将会出现明显的变化。
来源：「网信中国」微信公众号（cacweixin）。《征求意见稿》原文：
http://www.cac.gov.cn/2021-08/27/c_1631652502874117.htm
往期推荐
一女程序员被判 9 个月：因薪酬等问题离职，rm -f * 删库，瘫痪 6 个小时
扫码关注最新动态
小明菜市场
1647
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
