生成合成类算法：我们理解，该类算法基于深度学习技术拟合一种概率分布，从而合成或生成文本、语音、图像等文件，如利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息。该类算法技术同样可能适用于AI换脸APP涉及的“深度伪造”与“深度合成”等场景。

个性化推送类算法：我们理解，该类算法通过人工智能分析和过滤机制对海量数据进行深度分析，可以实现信息内容与用户的精准匹配，例如线上购物软件通常可应用该算法，基于用户喜好为其推荐可能喜欢、感兴趣的商品。

排序精选类算法：该类算法可以将一串资料依照特定方式排序，例如搜索引擎对搜索结果进行排序展示。

检索过滤类算法：该类算法可以基于用户需求或法律要求，从可行的决策（推荐）方案中过滤出合适的推荐结果，例如可用于自动识别敏感字词。

调度决策类算法：该类算法可以在资源有限但有多个进程同时发出请求的情况下，决定合适资源使用者，如作业调度算法、进程调度算法等。典型场景如网约车平台调度算法向乘客附近的网约车司机派单，并为司机与乘客提供信息撮合服务。

（1）舆论属性
（2）算法的社会动员能力
（3）内容类别
（4）用户规模
（5）算法推荐技术处理的数据敏感程度
（6）对用户行为的干预程度

1、《算法规定草案》的制定依据中列明了《数据安全法》、《个保法》等法律和行政法规，即表明违反本规定的行为可能会同时触发《数安法》和《个保法》等相关法律法规的有关罚则（例如暂停或停止提供服务、处五千万元以下或者上一年度营业额百分之五以下罚款等）；

2、我们理解，相关主管部门（如工信部、司法部、科技部等）可能后续介入本规定的制定修改过程。鉴于本规定的重要性，我们预计本规定很可能于今年内正式出台，相关企业宜充分利用征求意见阶段的窗口期，对本规定提出必要的修改反馈建议，同时根据相关重点条文内容及时部署合规整改工作；

3、我们理解，基于《个保法》、《数安法》等相关法律的授权，网信办的统筹协调和规则制定权将更趋于频繁和常态化。基于目前的执法趋势，我们建议相关企业（特别是如涉及泛文娱、金融、医疗健康、地产、AI及大数据、交通运输、电商等重点企业的行业）不宜等待具体实施细则的落地后才做合规调整，而应更积极地开展合规评估、不时与有关监管部门保持密切的沟通并寻求指导。

1、《算法规定草案》的适用范围是比较广的（本规定明确的个性化推送类、排序精选类、调度决策类系列举方式的提示性规定）。实践中，判断某个应用或某项服务是否落入本规定的规制范围，仅需判断该应用或服务是否使用有别于自然结果的推荐算法（例如短视频分发或新闻推送等、餐饮外卖服务中的商家搜索排序、骑手调度等、出行服务中的订单匹配等、游戏直播服务中的“热榜”等、流媒体音乐服务中的“猜你喜欢”等均属于典型的算法推荐服务）；

2、我们理解，短视频类应用、直播类应用或服务、垂类搜索服务（例如具有热搜功能的垂直类搜索等）、出行或导航类应用或服务等是《算法规定草案》的重点监管对象。

算法伦理的问题目前已在全球范围内引起了很大的立法和执法关注（典型的立法如欧盟的人工智能法案。中国执法实践中，交易所或证监会亦会针对AI类企业的IPO上市出具关于算法使用伦理方面的问询意见）。此前，科技部也公开发布了《关于加强科技伦理治理的指导意见（征求意见稿）》。

相关企业应通过设置关键词条过滤、敏感内容屏蔽等内容素材的审核机制落实本条第二款的义务。实践中，涉及国家安全、恐怖主义、暴力、色情、赌博等违法犯罪或敏感事项一般应作为内容素材审核机制中的基础（一般更多依靠技术性过滤），而针对侵权内容的处理（例如侵犯他人知识产权、肖像权、名誉权等）则更多地需要根据《民法典》、《电子商务法》等法律法规的要求引入人工审核的制度干预。另外，实践中还需高度重视算法推荐内容是否满足社会主义核心价值观和公序良俗（具体的审查尺度须个案判断）。

本条的合规义务与《个保法》、《网络安全法》等相关法律项下的合规义务是一致的（例如安全评估、应急处置等）。实践中，针对“公开算法推荐相关服务规则”，并非要求企业公开详细说明使用的算法推荐技术等涉及商业秘密和核心竞争力的内容，而是要求公开算法推荐服务的对象、目的和实现功能等（通常是以简明易懂的方式向用户展示推荐服务如何实施）。我们建议企业将算法推荐服务的规则纳入其现行的隐私政策协议中（可考虑与自动化决策部分的说明放置于一起）。

本条的合规落地措施通常包括：（1）设置防沉迷系统（特别是针对未成年人的服务）、或特定时长休眠等（实践中目前主要针对游戏类应用，但我们理解未来执法中可能会针对短视频类应用或直播类应用）；（2）设置用户风险评测功能，设置与用户风险承受能力、风险偏好相适应的商品/服务推荐等；（3）应适当控制针对特定人群的消费内容推荐和定向推送（例如针对女性用户的医疗美容类产品/服务等）。

1、实践中，通常可以通过注明为“定推”、“广告”等字样（具体字样应根据不同的业务场景和推荐内容进行区分）来履行本条第一款的显著标识义务；

2、除了涉及国家安全、恐怖主义、暴力、色情、赌博等违法信息外，目前实践中还须结合网信办的专项治理行动针对特定类型的内容（例如违法违规的财经类内容、恶意炒作灾难事故、娱乐八卦等）采取合规处置措施。

1、实践中，通常禁止列入用户画像的内容包括（1）包含色情（例如针对内涵段子等擦边球式软色情内容也应从严把握）、赌博、迷信、恐怖、暴力的内容；（2）表达对民族、种族、宗教、残疾、疾病歧视的内容；（3）危害国家安全、荣誉和利益，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视；

2、实践中针对不同消费群体、不同区域的消费者设置的定向推送（例如针对中高端消费人群与针对下沉市场消费者的不同推荐）并不必然构成歧视性或偏见性用户标签。目前我们理解，本条所指的歧视性或偏见性的典型适用场景是带有社会争议、易使得自然人的人格尊严等遭受侵害的算法推荐（例如针对LGBT群体、残障人群等歧视性推荐内容）。

1、根据网信办专项治理行动的部署要求，新闻客户端、手机浏览器、公众账号平台、工具类应用等4类移动应用程序的弹窗功能将进行重点执法。具体的六项整改要求主要包括：（1）禁止弹窗推送违规采编发布、转载的新闻信息；（2）弹窗推送新闻信息不得渲染炒作舆情热点，断章取义、篡改原意吸引眼球；（3）未取得互联网新闻信息服务许可的工具类应用不得弹窗推送新闻信息；（4）禁止弹窗推送娱乐八卦、明星绯闻、血腥暴力、奇闻异事、低俗恶俗等有悖社会主义核心价值观内容；（5）禁止通过弹窗渠道放大传播失德艺人、负面争议人物的有关言论；（6）不得扎堆弹窗推送突发事件、灾难事故，不得渲染血腥现场、过度强调案件血腥细节等；

2、前述多数合规要求亦适用于除弹窗形式以外的推送（特别是热搜、榜单类功能等）。

实践中，内容去重、打散干预等算法策略应重点聚焦在对敏感争议内容的处理上。例如针对电商购物、餐饮外卖等算法推荐场景，打散干预等则并非必要措施。

1、任何形式的刷量行为（包括批量注册真实账号进行）的风险都是很高的；

2、买热搜、控评等行为目前处于违法违规处理的最强监管范围（例如通过发通稿、买竞争对手的负面新闻热搜等行为也属于典型违规场景）；

3、利用算法推荐进行自我优待并不必然违法违规（例如将首页优先展示位留给自家应用或服务、优先定向推送自家应用或服务等）。

如前所述，我们建议企业可以将算法推荐服务的情况列入隐私政策协议中的专章（例如个性化推送的部分）。例如在餐饮外卖的场景下，算法推荐的目的可以写成“结合消费者的兴趣、口味等为消费者提供个性化的餐饮商家”，而算法推荐的基本原理和运行机制通常可以描述推荐算法的影响因素（如消费者的购买浏览记录、根据餐饮种类的推荐、品牌商家的销量好评量等）等。

1、本条第一款的合规义务是和《个保法》相一致的。关闭算法推荐服务并不意味着不得使用任何算法；

2、实践中，基于个人信息主体所选择的特定地理位置进行展示、搜索结果排序，且不因个人信息主体身份不同展示不一样的内容和搜索结果排序，则属于不针对其个人特征的选项。

我们理解，有关执法部门会持续展开针对未成年人保护的专项执法行动；我们建议企业结合应用服务的敏感程度、算法推荐内容的性质等因素考虑制定应用服务的青少年模式等（例如在青少年模式中，游戏类信息内容的推荐或诱导消费类的推荐应当是受限的）。

1、从立法初衷来看，本条的主要适用对象是客运货运、餐饮外卖等应用或服务。对于这两类应用场景而言，针对劳动者的算法推荐服务规则的公示形式可以是灵活的、独立的（独立于针对消费者的隐私政策协议），例如通过官网公示等形式；

2、适用本条的一大核心争议在于如何界定“劳动者”（即是否要求本规定项下的劳动者等同于《劳动法》、《劳动合同法》等劳动法律法规所界定的劳动者）。例如针对PUGC短视频类应用，通常与平台形成劳务合作关系的专业达人、野生达人等是否也属于本条所保护的对象仍有待实践观察。

实践中，本条的处罚依据主要是《反垄断法》、《消费者权益保护法》等。从企业算法推荐服务的设计运行角度看，根据消费者偏好等设置不同的交易价格等并不必然是违法违规的（但上述差别待遇须具有合理理由，例如高峰期与平峰期不同的计费规则、不同距离远近的配送费差异等。但不同消费者对同类商品的不同价格敏感度通常不构成差别待遇的合理理由）。

1、结合本条的规定，具有舆论属性或社会动员能力的（例如微博、新闻推送类应用等）、内容类别较敏感（例如金融、医疗健康等）、用户数量巨大、处理数据类型较敏感的（例如地理位置信息等）算法推荐服务属于本规定重点监管与执法的对象；

2、我们理解，判断某类算法推荐服务是否具有舆论属性或社会动员能力可以结合用户数量（用户数、受众范围等）、活跃度（日活月活等）、内容敏感程度等因素进行考量。

本条针对具有舆论属性或者社会动员能力的算法推荐服务提供者施加了较为严格的备案审查义务。实践中，算法自评估报告可以参照处理个人信息的安全影响评估、AI类企业IPO上市的招股说明书及反馈回复等样式。我们亦建议企业不时地与相关网信部门进行必要的沟通。

对于投资人而言，在投资具有舆论属性或者社会动员能力的算法推荐服务类项目时（例如具有社区、论坛、小组、圈层、公众号等功能算法推荐类应用都可能具有舆论属性或社会动员能力），须注意审查目标公司是否具有算法推荐服务的备案资质。

1、本条第一款的内容将可能直接与《网安法》、《数安法》等法律法规项下的网络安全审查、数据安全审查等制度相关联，因此安全评估的要素也应借鉴考虑网络安全审查、数据安全审查的考量因素。

2、除公开版本的算法推荐服务规则外，企业还应以内部技术文档等形式制定完整的算法推荐服务规则、以应对监管部门的潜在调查。

我们预计执法实践中较为常见使用的通常仍然是责令限期整改或暂停服务等。但企业应注意相关违法行为可能同时触发治安管理处罚的行政责任和刑事责任。

《算法规定草案》第二条规定，在中国境内应用算法推荐技术提供互联网信息服务（“算法推荐服务”）的，适用本规定，并进一步明确了“应用算法推荐技术”的定义，即“应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容”。以上适用范围非常广泛，各类提供算法推荐服务的互联网公司几乎都在监管范围内，如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。

1、建立全面监督管理体系

（1）各级网信部门监管

《算法规定草案》第三条规定，国家网信部门负责全国算法推荐服务的监督管理执法工作，省级网信部门依职责负责本行政区域内算法推荐服务的监督管理执法工作。

（2）加强行业自律

《算法规定草案》鼓励相关行业组织加强行业自律，建立健全自律制度、行业准则及行业标准，并督促指导算法推荐服务提供者建立健全服务规范。（见《算法规定草案》第五条）

（3）完善社会监督

《算法规定草案》为社会监督提供渠道，发动社会公众，开展监督。《算法规定草案》规定，算法推荐服务提供者应为公众投诉举报设置便捷的投诉举报入口，同时建立用户申诉渠道和制度。（见《算法规定草案》第二十六条）

2、建立分类分级制度

《算法规定草案》第十九条规定，网信办应“根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。”该分类分级制度的具体实施规则仍待进一步明确，如应划分为哪几类，哪几个等级，分别适用何种监管措施等。

3、对特殊算法推荐服务提供者的监管措施

（1）实施备案管理

《算法规定草案》规定，具有舆论属性或者社会动员能力的算法推荐服务提供者（“特殊算法推荐服务提供者”）应当通过相关备案系统填报相关信息，进行备案，并在其对外提供服务的平台的显著位置标明其备案编号并提供公示信息链接。《算法规定草案》未对特殊算法推荐服务提供者的定义和范围进行说明，仍待相关配套规定以及网信部门执法案例进一步明确。

（2）需进行安全评估

《算法规定草案》规定，特殊算法推荐服务提供者应当按照国家有关规定开展安全评估。网信办及省级网信部门将会同有关主管部门对算法推荐服务负责开展算法安全评估和监督检查工作，相关算法推荐服务提供者应提供必要的支持和协助。相关安全评估的具体实施规则仍待进一步明确。

保障用户的知情权和自主选择权是保障公平交易、维持市场秩序的重要前提，国家对算法可能不当影响用户自主决定权的问题日益关注，并积极进行立法予以回应。如《个人信息保护法》中规定，通过自动化决策方式进行推送或营销，应同时提供不针对其个人特征的选项，或向个人提供便捷的拒绝方式。近日出台的《禁止网络不正当竞争行为规定（公开征求意见稿）》亦强调，经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的信息、浏览内容及次数等方式，对交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权。《算法规定草案》此次也从以下方面明确规定保护用户知情权及自主选择权：

1、增加算法推荐的公开透明度，保障用户知情权

算法推荐具有一定隐蔽性，常常使得公众在无形之中被“算计”。因此，《算法规定草案》在增加算法推荐的公开透明度，保障用户知情权方面作出了一系列规定，如《算法规定草案》规定了特殊算法推荐服务提供者的备案义务、算法推荐服务提供者以显著方式告知用户其提供算法推荐服务情况的告知义务、算法推荐服务提供者公示算法推荐服务基本原理、目的意图、运行机制等的公示义务以及优化检索、排序、选择、推送、展示等规则的透明度和可解释性义务。上述规则增加了算法推荐相关信息及推荐方式的透明度，一定程度上保证了用户知情权，同时也有利于公众去监督互联网企业的算法推荐功能。

2、明确用户选择权

与个保法相关规定相呼应，《算法规定草案》也明确了用户接受算法推荐服务的选择权。《算法规定草案》第十五条规定，“算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。”该规定主要针对实践中众多互联网平台未提供算法推荐服务关闭选项或难以关闭相关服务的情形。据报道，通过微信设置功能，经过至少14个步骤，可关闭为期六个月的个性化定制广告。费尽千辛万苦关闭后，用户其实仍会接收到普遍投放的广告。本条款生效后，可督促相关平台设置更为便捷的算法推荐服务关闭方式，真正便利用户行使选择权。

《算法规定草案》第十五条进一步规定，“算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。”该条在算法推荐方面给了用户一定主动权，可以避免企业根据自己所确定的用户标签，持续向用户推送相关信息。

1、不得实施流量造假

在移动互联网时代，注意力成为稀缺资源，流量造假逐渐形成产业链，对公平竞争的市场秩序造成破坏，也不断侵蚀网络空间的社会信任。对此，《算法规定草案》第十三条明确规定，“算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持”，对流量造假、流量劫持行为明令禁止。

2、不得操纵搜索结果

互联网时代，信息量爆炸，很多商家或流量网红为了脱颖而出，不惜通过重金以购买热搜或精选，操纵榜单等方式“做广告”，破市场坏公平竞争，扰乱市场秩序，占用公共资源。对此，《算法规定草案》第十三条进一步规定，“不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管”。

但值得注意的是，《算法规定草案》对违反上述规定所设置的行政处罚金额上限为人民币三万元，并未根据流量造假方或搜索结果操纵方因流量造假或操纵搜索结果所获利润金额设置更高的处罚金额上限。因此，对上述行为的处罚可能仍需主要依靠刑法等其他法律进行处罚和整治。

1、禁止“大数据杀熟”，保障消费者合法权益

近年来，随着互联网不断渗透到我们的生活，“大数据杀熟”已变成一个热词，从订机票、订酒店甚至订外卖都会被“大数据杀熟”。2021年8月20日发布的《个人信息保护法》（“个保法”）针对“大数据杀熟行为”提出了相关应对措施，如规定个人信息处理者利用个人信息进行自动化决策，不得对个人在交易价格等交易条件上实行不合理的差别待遇。

与个保法相呼应，《算法规定草案》也针对“大数据杀熟”提出了类似措施，规定算法推荐服务提供者向消费者销售商品或者提供服务的，“不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。”（见《算法规定草案》第十八条）

2、防止未成年人沉迷网络，保障未成年人身心健康

在互联网飞速发展的时代，未成年人沉迷网络的问题引起了社会的广泛关注。由于未成年人价值观尚未健全，缺乏辨别正确价值观的能力，极易掉进互联网的“算法陷阱”里，成为资本逐利的牺牲品。因此，《算法规定草案》针对未成年人网络保护进行了特殊规定，要求算法推荐服务提供者向未成年人提供服务的，应当开发适合未成年人使用的模式、提供适合未成年人特点的服务，不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，或利用算法推荐服务诱导未成年人沉迷网络（见《算法规定草案》第十六条）。但该规定较为概括，且对违反本规定的处罚措施亦不明确，仅规定由主管部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。因此，仍待在实践中探索更为具体的保护措施。

3、完善平台调度服务，保障劳动者权益

此前，外卖平台通过算法来测算外卖员配送时间引热议。在外卖平台智能算法的深度学习下，外卖员送餐的时间被平台逐渐压缩，给外卖员造成了巨大压力，也一度使得外卖骑手被贴上了最危险职业的标签。对此，《算法规定草案》第十七条规定，“算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。”但该规定亦相对概括，且相应的处罚措施亦不够明确，仍待结合实际处罚案例探索有关主管部门的执法尺度和力度。

1、落实算法安全主体责任

《算法规定草案》规定，算法推荐服务提供者作为算法安全主体，应履行以下主体责任：

（1）建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度；
（2）制定并公开算法推荐相关服务规则；及
（3）配备与算法推荐服务规模相适应的专业人员和技术支撑。

2、维护法律及公序良俗，倡导主流价值导向

《算法规定草案》除了强调算法推荐服务应遵守法律法规，同时也强调应尊重公序良俗，倡导主流价值导向。为此，《算法规定草案》规定算法推荐服务提供者应：

（1）定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型（见《算法规定草案》第八条）；
（2）加强信息内容管理，防止违法信息扩散，保存有关记录，并向网信部门报告。（见《算法规定草案》第九条）
（3）加强用户模型和用户标签管理，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签（见《算法规定草案》第十条）；及
（4）加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在各个重点环节积极呈现符合主流价值导向的信息内容（见《算法规定草案》第十一条）。

《算法规定草案》适用范围较广，几乎涵盖了所有提供算法推荐服务的互联网企业，且其对算法推荐活动亦做了较为全面的规范，一些规则更是直指算法推荐领域的一些乱象，因此，《算法规定草案》的内容对提供算法推荐服务的企业影响较大，故相关企业应根据《算法规定草案》的相关规定着重从以下方面进行准备：

（1）根据《算法规定草案》要求，准备制定相关服务规则、管理制度，并配备相关专业人员及技术支撑；
（2）对开展的算法推荐活动进行自我审核、评估，排除违法和不良信息、诱导性算法模型、偏见性用户标签及其他不符合法律法规、公序良俗及和主流价值导向的情形；
（3）根据《算法规定草案》要求，增加算法推荐服务的公开透明度，保障用户知情权和自主选择权，待《算法规定草案》生效后，及时履行相关告知、公示义务；以及
（4）密切关注《算法规定草案》及相关立法及执法活动对待明确问题的进一步解释，如关注特殊算法推荐服务者的范围，以自查是否需进行相关备案及安全评估。

算法的有效性需要大数据的训练喂养，比如算法杀熟，如数据不够多，维度不够丰富，算法的有效性就要大打折扣，这也是为什么该算法只针对老用户，新用户在平台上的数据量不够支撑进行数据分析。因而，相当多的企业通过各种渠道获取数据，如为了提升人脸识别算法的精准度，企业甚至通过爬虫技术从互联网公开渠道获取戴口罩的人脸信息。虽然从互联网渠道获取已公开的个人信息无需取得个人同意，但是企业应当符合该个人信息被公开时的用途，超出与该用途相关的合理范围的，应当取得个人同意。除此之外，企业利用爬虫技术侵入他方计算机系统还可能侵犯他方的数据权益或触犯非法获取计算机信息系统数据罪。

作为对《个人信息保护法草案》的响应，2021年8月1日最高院发布了《关于审理使用人脸识别技术处理个人信息相关民事案件使用法律若干问题的规定》，明确规定基于个人同意处理人脸信息的，未征得自然人或者其监护人的单独同意，或者未按照法律、行政法规的规定征得自然人或者其监护人的书面同意属于侵害自然人人格权益的行为。

算法杀熟事件已曝光多次，往往是用户在更换账号购买产品或服务时才能发现，日常无法感知。由于用户对某一软件的依赖，或者由于商家/平台的垄断地位，用户无法作他选择，商家/平台利用用户黏性以获取更高的收益。在旅游行业的数据杀熟事件发酵后，主管部门很快发布《在线旅游经营服务管理暂行规定》，明确了在线旅游经营者不得滥用大数据分析等技术手段，基于旅游者消费记录、旅游偏好等设置不公平的交易条件，侵犯旅游者合法权益。

算法的有效性依赖于对已有数据的加工分析，如所使用的基础数据本身存在瑕疵或算法的设置存在歧视，那么算法结果必然失去客观性和准确性。例如，在美国进行人脸识别的算法训练，如果所使用的数据大都是白人的数据，那么就可能无法识别亚裔或非裔，对其他种族形成歧视。算法可能会固化歧视与偏见，使其更难被发现、更难以矫正。

又如“苹果税现象”，复旦大学曾做过一项研究，在国内5个城市进行了800多次打车测试后发现，当用户选择一键呼叫"经济型+舒适型"两档时，与非iPhone手机用户相比，iPhone手机用户更容易被价格更高的舒适型网约车司机接单，比例为非iPhone手机用户的3倍。该算法造成了对不同乘客的差别待遇，形成算法歧视。《关于平台经济领域的反垄断指南》第十七条规定，具有市场支配地位的平台经济领域经营者，无正当理由对交易条件相同的交易相对人实行差异性标准、规则、算法进而实施差别待遇属于滥用市场支配地位的情形。由于算法所具有的隐蔽性，算法的歧视性可能难以被发现，然而一旦被发现，开发者/使用者可能面临民事赔偿以及行政处罚。

算法推荐技术在给用户带来了一定便利的同时，也使得其陷入重复获得自己兴趣领域内的信息，从而丧失了获得更广阔范围领域信息的机会。好比将自己的生活桎梏于像蚕茧一样的“茧房”中，不能了解不同的事物、不能获得不同的视角，最终产生根深蒂固的偏见。这种基于个体的偏见如形成普遍现象，将对我们所倡导的和谐社会产生深刻影响。有鉴于此，下述规定通过向个人赋权的形式给予用户自决权。

如《数据安全管理办法（征求意见稿）》第二十三条规定，网络运营者利用用户数据和算法推送新闻信息、商业广告等，应当以明显方式标明“定推”字样，为用户提供停止接收定向推送信息的功能；用户选择停止接收定向推送信息时，应当停止推送，并删除已经收集的设备识别码等用户数据和个人信息。《信息安全技术 个人信息安全规范》第7.5条也对个性化展示的使用作出了限制，包括在向个人信息主体提供业务功能的过程中使用个性化展示的，应显著区分个性化展示的内容和非个性化展示的内容；在向个人信息主体提供电子商务服务的过程中，根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务搜索结果的个性化展示的，应当同时向该消费者提供不针对其个人特征的选项。

如上文所述，通过算法共谋可以自动达成垄断协议，在传统的市场中，一般是经营者开会签署协议或形成会议纪要的方式实现垄断，但在新经济时代，通过算法设计和数据的传递就能自然实现横向垄断或纵向垄断的效果。共谋行为会对市场和消费者造成巨大的危害。当具有竞争关系的经营者之间利用技术手段、平台规则、数据和算法等方式，达成、实施垄断协议，排除、限制相关市场竞争时，可能导致其他经营者自主定价权被剥夺、消费者利益受到侵害、市场的价格信号被扭曲、市场资源浪费，甚至导致其他经营者被打压，阻碍整个行业技术生产的进步。

然而，算法共谋的前提是市场参与者有共谋的故意，通过算法手段达到垄断市场的目的，随着市场日渐趋于透明，市场参与者即使没有共谋的故意，也可能由于算法的趋同而客观上达到垄断市场的目的，如何界定市场参与者的共谋，如何有效审查算法可能是个执法难题。

去年引起社会广泛关注的外卖算法系统，某些互联网平台利用算法设置外卖骑手的配送时间，送餐时间被压缩得越来越短，外卖骑手为了在时限内完成送餐，违反交通规则的情形时有发生，对外卖骑手的生命健康造成严重威胁。而且，这个算法系统采用自动化的机器决策，骑手很难理解和提出抗议。无独有偶，在南京市建邺区工作的部分环卫工人陆续接到了公司配发的一款智能手环，并被要求在上班期间佩戴。手环除了具备定位功能外，只要环卫工人上班期间在原地停留20分钟，手环就会自动发出“加油”的语音，提示环卫工人继续工作。

可以理解，外卖算法的目的一是为了增强用户粘性，形成竞争优势，最终获取更多市场份额；二是实现对众多外卖骑手的有效人力资源管理。但是算法中没有更多加入公共规则的考量，当效率优先成为算法使用者的价值取向，就会忽视个人权益。很快，政策制定者发布了《关于维护新就业形态劳动者劳动保障权益的指导意见》，提出“督促企业制定修订平台进入退出、订单分配、计件单价、抽成比例、报酬构成及支付、工作时间、奖惩等直接涉及劳动者权益的制度规则和平台算法，充分听取工会或劳动者代表的意见建议，将结果公示并告知劳动者。工会或劳动者代表提出协商要求的，企业应当积极响应，并提供必要的信息和资料。指导企业建立健全劳动者申诉机制，保障劳动者的申诉得到及时回应和客观公正处理”。

在《新一代人工智能治理原则——发展负责任的人工智能》第六条共担责任中，倡导人工智能研发者、使用者及其他相关方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范。建立人工智能问责机制，明确研发者、使用者和受用者等的责任。可见，目前来说关于新型领域的侵权问题仍旧需要通过实践来明晰。

人类使用算法的初衷在于辅助或部分代替人类决策，使生活变得更加便捷和智能。算法作为人工智能、区块链、大数据分析等技术的核心要素，确实地推动人类生产生活的变革。但同时，算法作用过程和决策机制较为隐蔽甚至不便于人类思维理解，有时类似密不透风的“黑匣子”——这导致其被滥用的风险骤然提升，最终可能与使用初衷背道而驰。信息茧房、大数据杀熟、算法歧视等事件的层出不穷也让人们对看似理性、中立的算法进行反思。在此背景下，各国政府开始尝试对算法进行监管。包括但不限于在整体层面上，设立AI的伦理原则，将算法的发展方向框定在“对人类有益”的范围之内，而在各类应用场景中，提出算法透明、公正、保证算法的“可信度”等细致要求。而我国算法监管制度也正逐步完善和健全，但具体内容有待细化完善。