原创|互联网公司的合规义务与监管红线-算法推荐技术应用合规

发布于 2021-09-01 09:58

2021年8月27日，《互联网信息服务算法推荐管理规定（征求意见稿）》经国家网信办发布，开启为期一个月的向社会公开征求意见。

该《互联网信息服务算法推荐管理规定（征求意见稿）》，与即将在11月1日施行《个人信息保护法》中关于自动化决策的规定，两者的制度目标趋于一致，都是对计算机程序自动分析、算法推荐技术应用的合规监管。

本次《征求意见稿》所涉的范围非常广泛。《征求意见稿》中明确，所谓的应用算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

这表明，所有包含基于算法提供服务商业模式的互联网公司，都在监管范围内。

包括应用生成合成类，如今日头条、百家号等生成合成类应用。

包括内容个性化推送类，如今日头条、抖音、快手、微博等内容推荐类应用。

包括广告个性化推送类，如微信等应用，朋友圈内常见的信息流广告。

包括排序精选类，淘宝、天猫、京东、拼多多等电商应用。

包括检索过滤类，如百度、搜狗等搜索服务应用。

包括调度决策类，如滴滴、美团、饿了么等调度应用。

本次《征求意见稿》，针对算法推荐服务提供者的互联网企业，指出了十项合规义务

一是建立算法安全合规制度。建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等七大类管理制度。

二是制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

三是建立信息内容管理制度，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

四是建立算法推荐服务版面页面生态管理制度，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

五是建立算法明示制度，以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

六是建立算法服务关闭制度。需要向用户提供不针对其个人特征的选项，向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。

七是履行劳动者权益保障义务。向劳动者提供工作调度服务的，要建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。

八是算法服务日志信息留存义务。要完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。

九是个人信息隐私和商业秘密保密义务。参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。

十是具有舆论属性或者社会动员能力的算法推荐服务提供者的备案义务。通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。

同时，本次《征求意见稿》，针对算法服务，划出三条监管红线。

一是不得实施流量造假、流量劫持。

在互联网生态中，流量造假“毒瘤”已久。今年3月中国裁判文书网公布的“星援”APP开发者蔡坤苗判决书披露，“蔡徐坤一条微博转发量过亿”流量造假事件中，蔡坤苗控制多达19万个微博账户（俗称“小号”），以“黑客”方式入侵新浪微博数据库，获取不登录新浪微博客户端即可转发微博博文的功能，通过自动批量转发的方式，在短时间内刷出惊人的转发量。

二是不得操纵榜单、控制热搜

《征求意见稿》中的第十三条指出，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。

事实上，热搜是舆论的集中场，理论上而言应当代表当下舆论最关切的问题。然而，其后台算法假若被少数人利用，从而出现操纵榜单、控制热搜的情况，进而制造舆论热点，无疑会消耗民众及社会公共资源对热搜的信任。

2020年6月10日，新浪微博被国家互联网信息办公室北京市互联网信息办公室约谈，这次更是少见地点明了约谈原因，是针对微博在蒋某舆论事件中干扰网上传播秩序，以及传播违法违规信息等问题。同时，新浪微博被责令立即整改，暂停更新微博热搜榜一周，并从严予以罚款。

2021年8月27日，国家网信办发布《关于进一步加强“饭圈”乱象治理的通知》，通知指出：取消所有涉明星艺人个人或组合的排行榜单，严禁新增或变相上线个人榜单及相关产品或功能。也是精准性的流量滥用进行针对性整治。

三是不得诱导未成年人沉迷网络

《征求意见稿》中第十六条指出，算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络。

当下，未成年人将使用网络视作生活的一部分。手机、电脑、智能手表、机器人以及各类智能家居终端不断更新，各类应用软件、短视频平台、社交媒体等广泛应用，为未成年人营造了随时随地的上网环境和沉浸式体验。

与此同时，相关方对未成年人网络沉迷的引导和预防治疗不够。例如，一些游戏开发商专门研发门槛低、互动性强、奖励诱惑多的网游；一些网络视频平台不仅缺乏针对未成年人的内容分级，更是通过“算法推荐”“奖赏反馈”等成瘾机制的设计，让一些未成年人“根本停不下来”。

更有观点指出，游戏和短视频平台成为“精神鸦片”。8月3日，据新华通讯社主管主办的《经济参考报》记者调研发现，当前，未成年人网络沉迷现象普遍，网络游戏对未成年人的健康成长造成不可低估的影响。游戏危害越来越得到社会的共识，常常用“精神鸦片”“电子毒品”指代。这一新型“毒品”却突飞猛进、发展壮大成一个巨大的产业。

法律鼓励技术创新但要防范新技术的风险。新技术可能会引发新型风险，因而使用者就应当尽到特别合规义务及监管红线。在法律上，利益与责任同在。平台利用“算法推荐”更精准地将内容触达用户，提升了平台的核心竞争力，提高用户粘性及用户忠诚度，为平台带来高流量价值，平台也应履行相应的注意和管理义务。

《互联网信息服务算法推荐管理规定（征求意见稿）》为算法推荐技术指明了合规义务，划出了红线，互联网公司，应认真把握，积极面对，建立起新技术合规体系，稳妥的发掘技术红利。