《算法规定》提出多项管理制度和技术措施要求，要求算法推荐服务提供者落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则。

相较2021年8月公开征求意见的《互联网信息服务算法推荐管理规定（征求意见稿）》，《算法规定》新增了科技伦理审查和反电信网络诈骗的管理要求，进一步体现促进算法向上向善的价值导向。

此外，算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

在设计阶段，算法推荐服务提供者应以促进算法应用向上向善为导向加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。同时，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。

在算法模型运行期间，算法推荐服务提供者亦应定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

在优化算法推荐服务机制，积极传播正能量方面，《算法规定》要求算法推荐服务提供者加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。同时《算法规定》鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。

在违法信息管理方面，《算法规定》要求算法推荐服务提供者建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当在作出显著标识后再继续传输。发现违法信息的，算法推荐服务提供者应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

践行社会主义核心价值观和实现算法应用向上向善离不开人的参与。《算法规定》描绘了一个算法推荐服务提供者、用户、监管部门等主体多方参与，多元共治的算法治理蓝图。

一方面，算法推荐服务提供者在建立健全算法安全管理制度和技术措施时，应配备与算法推荐服务规模相适应的专业人员和技术支撑，并建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息，以对抗虚假信息和加强信息管理。同时，算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

另一方面，《算法规定》要求网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。同时，网信部门将会同电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。任何组织和个人发现违反《算法规定》的行为，均有权向网信部门和有关部门投诉、举报。收到投诉、举报的部门应当及时依法处理。

《算法规定》要求算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。算法推荐服务提供者可考虑在网络平台的显著位置通过隐私政策等方式告知用户算法推荐服务的相关情况。比如今日头条于2020年12月31日更新的《隐私政策》在“自主选择控制个性化推荐信息”一节中向用户告知如何管理个性化推荐信息：

（点击查看大图）

此外，“滴滴出行”小程序公示的《派单规则》中图示加文字说明的方式亦可为算法推荐服务提供者提供参考。

（点击查看大图）

除了公示算法推荐服务的相关规则以保障用户知情权外，《算法规定》第十七条还要求算法推荐服务提供者保障用户的选择权及拒绝权。

算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者还应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。以淘宝为例，其区分了个性化内容推荐和个性化广告推荐，并在个性化广告中设置了详细的标签列表。用户可根据自己的实际情况选择是否一键关闭个性化推荐的选项或者在细化的标签中删除或增加用户标签，拥有了更为具体细化的选择权和拒绝权，这一做法可成为算法推荐服务提供者的参考。

（点击查看大图）

《算法规定》要求开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式。考虑到未成年的心智尚未成熟但模仿能力强等因素，应尽可能让未成年人获取有益身心健康的信息，因此《算法规定》禁止向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息。

随着老年人用户群体规模的扩大，《算法规定》明确提出应当充分考虑老年人出行、就医、消费、办事等需求，提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务，结合《关于进一步抓好互联网应用适老化及无障碍改造专项行动实施工作的通知》《互联网网站适老化通用设计规范》和《移动互联网应用（APP）适老化通用设计规范》等一并完善适老化及无障碍改造。

《算法规定》要求算法推荐服务提供者建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，切实保护劳动者取得劳动报酬、休息休假等合法权益。

《个人信息保护法》第二十四条要求个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。《算法规定》再次强调算法推荐服务提供者应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为，以回应广受关注的“大数据杀熟”难题。

（1）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；

（2）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；

（3）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；

（4）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；

（5）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形。

条件之一：应用算法推荐技术的范围相对明确。并非所有算法都属于《算法规定》范围，《算法规定》明确了下述类型，如“生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类”，具体场景见表1；

表1：

条件之二：利用算法技术必需面向用户。这里的用户是否仅为C端个人用户，还是也包括B端企业用户，从这个概念字面上无法得到答案。但是从《算法规定》第三章用户权益保护章节来看，应主要是指C端的个人，而且结合立法背景，也是要规制一些算法对个人用户的侵害行为。例如2021年热门的某旅游服务平台“大数据杀熟”案。当然，也有人从上述算法类型也有适用于企业用户的场景，如调度决策类算法，从广义理解也是一种思路；

条件之三：向用户提供的是互联网信息服务。关于“互联网信息服务”的范围，可参考网信办2021年1月发布的《互联网信息服务管理办法（修订草案征求意见稿）》第五十二条的规定，即“互联网信息服务，是指为用户提供互联网信息发布和应用平台，包括但不限于互联网新闻信息服务、搜索引擎、即时通信、交互式信息服务、网络直播、网络支付、广告推广、网络存储、网络购物、网络预约、应用软件下载等互联网服务。”近期热门的算法推荐与版权保护的案例，其适用场景就和短视频有关；

有人对本《算法规定》的适用范围做了扩大解释，认为“金融借贷场景下用于风控的算法”适用于本《算法规定》。但是该算法因其目的和功能并非为用户提供信息服务，而是基于履行《个人贷款管理暂行办法》中对借款人贷前尽职调查的法定义务所必需。因此是否将其纳入《算法规定》中的算法推荐技术，似乎仍要探讨。

实务中，一类是直接提供互联网信息服务的企业；另一类是仅提供技术类支持与服务的科技企业，如算法技术开发公司、具备用户画像分析和决策功能的客户CRM（客户关系管理）、CEM（客户体验管理）SaaS服务商。对于上述采取不同商业模式的两类企业是否都属于《算法规定》中的“算法推荐服务提供者”，行业中存在着不同的观点：

一种观点认为仅提供技术类支持与服务的科技企业，并非直接利用算法向用户提供服务的主体，因此不属于《算法规定》中的“算法推荐服务提供者”，也不属于《算法规定》的适用对象；

另一种观点认为《算法规定》规制重点的是算法推荐技术本身，因此不论是直接提供信息服务的主体或是提供算法支持的科技公司均需遵守《算法规定》。

我们认为，《算法规定》应适用于直接向用户提供互联网信息服务的主体，而非提供算法技术支持与服务的主体。从文义解释的角度，《算法规定》规制的主体应同时满足“应用算法技术”+“向用户提供信息服务”两个条件，而算法技术支持公司无法控制输入算法的数据，数据从算法输出后也无法决定如何应用，是否向用户呈现信息或影响用户权益也是由直接提供信息服务的主体最终决定的。“仅提供技术类支持与服务的科技企业”定位类似于《个人信息保护法》中的受托处理者。另外，《算法规定》第三章对算法推荐服务提供者设立了用户权益保护的义务，而算法技术支持公司通常并不直接面对互联网信息服务平台的用户，因此难以响应用户的权益。综上所述，算法技术开发者不直接适用《算法规定》，似乎更为妥当。

但对于仅提供技术支持与服务的算法技术开发者，即使不受《算法规定》中关于算法推荐服务提供者的相关义务、责任规制，也需要注意，如开发的算法技术不合规，可能会与合作方产生民事纠纷；如算法技术被用于犯罪的，还可能触碰刑事“红线”，如帮助信息网络犯罪活动罪以及提供侵入、非法控制计算机信息系统程序、工具罪等。

例如入驻大型电商平台的商家，如仅依靠电商平台提供的工具及功能，利用平台的推送渠道，间接向用户开展个性化营销、推荐的，商家也并非信息服务的直接提供者，因此不应适用《算法规定》。但是，如商家脱离平台，利用用户数据生成用户画像等直接向用户开展个性化营销的，则应适用《算法规定》。

我们认为，很大程度上，这个《算法规定》构建了以算法推荐服务提供者及其推荐算法为监管对象的执法框架，设置了处罚措施。相比《关于加强互联网信息服务算法综合治理的指导意见》（以下简称“《指导意见》”）和《关于推动平台经济规范健康持续发展的若干意见》（以下简称“《若干意见》”），这是一部“有牙齿的”《算法规定》。同时，该《算法规定》的四家制定者，除了公安部未参与《若干意见》的制定外，都出现在了《指导意见》、《若干意见》的制定者中。可以预测，未来结合不同细分行业，还会出台具体行业的算法规制的文件（如金融行业、汽车行业、医疗行业等），结合《算法规定》与细分行业的算法规制规定，将为算法推荐服务提供者编织成一张纵横交错的算法规制之网。这也可以进一步看出，监管单位对于算法这个难题，逐步完成了顶层的日常监管和执法的分工，确定了“综合治理”的顶层架构。

- 所谓“显著方式”告知用户，该如何做到？是否比照《个人信息保护法》第十七条即可？

- 利用算法推荐技术之前，都要告知一次吗？《数据安全管理办法（征求意见稿）》第二十四条规定，“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明“合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息。”这样的一个“合成”字样，算不算告知？

- 什么是“适当的方式”？

- 算法推荐服务提供者的所有算法推荐服务都需要公示吗？

- 《算法规定》相比《征求意见稿》，在运行机制前面加上了“主要”二字，为什么要添加主要？

应该说，上面这些问题，实务中有一些国内企业正在积极进行探索。比如某外卖平台公示了订单派送的算法原理（通过卡通图片展示），再如某社交平台公示了热搜词的热度计算公式，对标签进行了解释；再如某旅游服务平台，对于价格的差异性进行了原理解释等。在国外，有互联网平台通过动画的形式，将算法原理进行了浅显易懂的介绍。

我们建议，算法推荐服务提供者在2022年3月1日之前可以开始逐步搭建自身的算法披露机制，就上述问题落实到具体的制度和机制中。例如，可以在隐私政策中明确告知使用自动化决策技术的业务场景；再如，可以在具体业务模块或者具体场景界面上，通过弹窗或者标签标注等形式，向用户明示算法推荐服务的内容；还如，可以专门在文件中对算法推荐服务情况进行说明。需要注意的是，《算法规定》第十六条，一方面要履行告知义务，另一方面还要履行公示义务。前者相比后者在展示上，要突出“显著”二字，而后者，可以考虑参考国外互联网企业的动画方式，或者参考国内一些头部企业的做法，专门在一些公告栏或者界面，对相关推荐算法的基本原理、目的意图和主要运行机制，进行适当展示。所谓适当，对比前面所援引的《征信业务管理办法（征求意见稿）》第三十八条的内容，就可以看出，一些内容不适合公开，否则一方面会损害企业商业秘密，另一方面，也会让算法本身的功能和目的无法实现。为此，这样的适当方式，应该做好利益平衡。

2021年10月5日，一名向美国执法部门举报美国某互联网巨头的前雇员在接受美国一家媒体访问时，她称其目睹了“公众利益和XX平台利益之间的冲突”，同时，她称该平台意识到“如果他们把算法调整得更加安全，人们在它网站上停留的时间会减少，点击的广告也会减少，他们赚的钱也会减少。”所谓算法越安全，利润则越少，暴露了算法黑箱本身带来的监管真空。

固然《算法规定》搭建了各种对算法的监管措施，但是“算法吹哨人”条款确实是不可或缺的，是打破信息不对称的“杀手锏”。另外，值得关注的，《网络数据安全管理条例（征求意见稿）》对于“数据安全负责人”独立报告的条款，也有异曲同工之妙。该条例第二十八第二款规定：“数据安全负责人应当具备数据安全专业知识和相关管理工作经历，由数据处理者决策层成员承担，有权直接向网信部门和主管、监管部门反映数据安全情况。”这一条借鉴了欧美GDPR的DPO独立职责条款，虽然在保证落实上，还需要进一步的制度供给，但是也可以看出监管部门对于数据处理者内部监督的“有益探索”。

算法推荐规范，不仅是一个技术问题，也是一个科技伦理问题。即，科技发展的目的是什么？如果以技术本身的先进性和技术为竞争所带来的经济价值为衡量的唯一尺度，那么就会发生技术对于社会公平、社会长期发展利益的侵害，从而触发科技伦理的反思。

事实上，由于算法推荐所产生的反思，一直伴随着数字经济的发展。从个性化信息推荐导致的“信息茧房”问题，到个性化推荐与不合理定价结合而产生的“大数据杀熟”，再到“困”在算法里无法脱身的外卖送餐员和网约车司机，还有算法推荐产生的垄断问题。算法本身作为大数据的应用基础，更应成为构建数字经济高效、公平、公正秩序的基石。因此，算法规制问题，是数字经济发展到一定阶段的必然产物，也是保障数字经济发展合乎于正义社会价值观的基础。

《算法规定》第一条，对于立法目的开宗明义提到“弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展”。

而在《算法规定》第六条，则进一步规定：“算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。”

上述规定可以看出，立法对于“科技向善”进行了规定，科技向善的具体标准虽然仍有待细化，但对于科技伦理的思考无疑是立法的重要关注。

综上，《算法规定》是一部对算法经济利益与算法公共利益进行平衡的立法，科技伦理、科技向善成为立法过程中特别关注的问题，《算法规定》确立的这一思考范式，对后续立法将会产生重要的影响。

对于算法推荐，虽然立法与社会均有关注，但系统化的内涵界定却一直没有在立法中予以确认。《算法规定》第二条明确规定了算法推荐的定义，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

这里的算法推荐技术，不仅仅包括最为人熟悉的应用在广告、短视频、“大数据杀熟”场景的个性化推送类，还包括生成合成类，例如文章生成算法、换脸算法；排序精选类，例如搜索引擎广告排序算法、电商平台店铺排序算法；检索过滤类，例如应用在各类公众搜索引擎、电商或内容平台的内部搜索引擎的过滤不良信息的搜索引擎；调度决策类，例如网约车平台、外卖平台的订单匹配算法等。

《算法规定》第三条确立了网信部门统筹协调，电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作的体系。电信部门从行业管理的角度出发，公安部门从预防侦查违法犯罪活动的角度出发，市场监管部门从工商主体管理、广告管理、反不正当竞争管理等角度出发。该体系与既有网络安全、数据安全的体系内在逻辑一致。

《算法规定》第二十三条确立了算法分级分类安全管理的制度设计。其中分类分级关注的维度包括算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等。

在上述制度设计下，根据《算法规定》第二十四条至第二十六条的规定，具有舆论属性或者社会动员能力的算法推荐服务提供者应当履行备案义务。服务提供者应当在提供服务之日起十个工作日内对服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

其中比较重要的包括：

（1）算法安全责任。算法推荐服务提供者落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查制度和技术措施；

（2）防沉迷与过度消费。即不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

（3）版面生态管理。算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。

（4）不正当竞争与垄断的防范。算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，实施垄断和不正当竞争行为。