一、《互联网信息服务算法推荐管理规定》

(1) 监管主体：双层次、多部门的联合监管

在国家层面，国家网信部门负责统筹协调全国算法推荐服务治理以及相关监督管理工作。此外，国务院电信、公安、市场监管等有关部门为联合监管主体。

在地方层面，同国家层面的职责分配类似，地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。以电信、公安、市场监管为主的地方政府职能部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。通过地方层面与国家层面的监管主体的通力配合，共同推进多层次、针对性的算法监管工作。

(2) 安全治理的核心抓手和工具：算法的分级分类

《互联网信息服务算法推荐管理规定》对算法执行分类分级管理制度。分级分类标准包括：算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等。这些标准与《数据安全法》中规定的数据分类分级管理相类似，也与《关于加强互联网信息服务算法综合治理的指导意见》中所倡导的推进算法分级分类安全管理目标一致。由此看来，算法分级分类安全管理可能会成为未来算法安全治理的核心抓手和工具。

(3) 反馈机制：由监管部门设定投诉举报机制

在《互联网信息服务算法推荐管理规定》的征求意见稿中，投诉举报机制原本由算法推荐服务提供者建立。而正式生效的《互联网信息服务算法推荐管理规定》将投诉举报机制的建立义务交由监管主体，依法处理投诉、举报成为监管主体的法定职责。任何组织和个人发现违反《互联网信息服务算法推荐管理规定》的行为的，都可以向监管主体投诉、举报。这一方面与现有数据监管的体系相对应，使得监管部门能更为及时地处理相关不当行为；另一方面也可以与监管主体的行政处罚等后续监管措施进行衔接，为其实现长效监管目标提供更为主动的手段。

(1) 算法知情权

《互联网信息服务算法推荐管理规定》第十六条将保障用户的算法知情权作为算法推荐服务提供者的法定义务，强调算法对于用户的透明度。算法推荐服务提供者被要求公示算法推荐服务的基本原理、目的意图和主要运行机制，与《网络数据安全管理条例（征求意见稿）》中规定的互联网平台的算法策略披露义务有效衔接。借助监管的力量揭开算法的面纱，有效保障信息主体的算法知情权。

(2) 算法选择权

延续《个人信息保护法》关于自动化决策的限制，《互联网信息服务算法推荐管理规定》第十七条进一步强调“算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。”针对个人特征的用户标签，用户有相应的选择或删除的权利；应用算法对用户权益造成重大影响的，算法推荐服务提供者应当依法予以说明并承担相应责任。

(3) 针对特殊主体的算法保护

在算法规制的语境下，特殊群体指的是容易被算法所操控而陷于困境的群体，包括未成年人、老年人、劳动者和消费者：

• 在老年人算法保护方面，《互联网信息服务算法推荐管理规定》第十九条从智能化适老服务的角度，要求算法推荐服务提供者依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。
• 在未成年人算法保护方面，《互联网信息服务算法推荐管理规定》第十八条强调依法履行未成年人网络保护义务，并明确了禁止性行为。
• 在劳动者算法保护方面，《互联网信息服务算法推荐管理规定》第二十条对劳动者权益保护做出了明确的强制性规定，将对目前受困于算法的诸如外卖骑手的劳动者的权益保护提供更为明确的法律依据。
• 在消费者算法保护方面，《互联网信息服务算法推荐管理规定》第二十一条将保护消费者合法权益细化为保护消费者“公平交易的权利”，此等细化与“大数据杀熟”等算法违法违规行为的实质更为贴合，也更为合理。

以上针对特殊主体的算法保护规定，亦是相关算法推荐服务提供者在提供算法推荐服务时应当重点考量的特殊合规义务。

(4) 主体的行权保障机制

延续《个人信息保护法》对于个人信息主体权利的保障规则，《互联网信息服务算法推荐管理规定》除规定了对于用户选择权的行权保障外，还在第二十二条要求算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口。同时，《互联网信息服务算法推荐管理规定》细化要求算法推荐服务提供者应当“明确处理流程和反馈时限”，对于用户算法行权的公开度和透明度进行了细化要求，更为便利用户行权。

我们理解，平台内的行权机制并非监管层面的外部投诉、举报机制的前置性或必经程序，信息主体拥有行权路径的自由选择权。

(1) 主被动相结合的不良信息防御与抵制义务

《互联网信息服务算法推荐管理规定》第六条要求算法推荐服务提供者“应当采取措施防范和抵制传播不良信息”的合规义务，强调算法推荐服务提供者对于“不良信息”类的主动合规义务。此等行为规范符合目前国际上对于算法推荐服务中的不良信息问题的应对趋势：诸如Facebook等大型算法推荐服务提供者，除被动地不利用算法推荐服务从事禁止性活动，传播禁止性信息外，还聘用了大量人工编辑，使用了许多技术措施，主动抵制诸如极端内容等不良信息的传播。

(2) 综合的算法安全主体责任

《互联网信息服务算法推荐管理规定》第七条明确了算法推荐服务提供者的算法安全主体责任。算法服务提供者不仅应建立健全具体的管理制度，还应当建立健全“技术措施”。只有“合规管理+技术控制”双管齐下，才能有效地落地整体的合规要求。

此外，《互联网信息服务算法推荐管理规定》还提出了“科技伦理审查”和“反电信网络诈骗”两个要求。 “科技伦理审查”与已通过的《关于加强科技伦理治理的指导意见》和结束征求意见的《科技伦理审查办法（试行）》的理念相呼应，亦已成为算法综合治理的必要的管理制度之一。而之所以在算法安全管理制度层面强调“反网络诈骗”，是由于随着算法技术的快速发展，以“个人信息泄露”为根源的新型智能化电信网络诈骗不断涌现。解铃仍需系铃人，通过完善算法安全管理制度和控制措施来对抗更为智能化的电信网络诈骗已成为了算法推荐服务提供者的义务之一。

(3) 基于法律和道德双重依据的定期评估机制

《互联网信息服务算法推荐管理规定》第八条要求设置“违反法律法规或者违背伦理道德”的算法模型，明确了算法推荐服务提供者应当建立基于法律与道德为双重依据的定期评估机制。尽管对于伦理道德的界定尚存在许多可解释空间，算法推荐服务提供者仍应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，通过定期评估，及时发现相关违反法律与道德的风险，并及时整改，以防范合规风险。

(4) 用户标签管理规则

《互联网信息服务算法推荐管理规定》第十条将完善记入用户模型的用户标签管理规则作为算法推荐服务提供者的合规义务，并明确了算法推荐服务提供者的用户标签完善义务。实践中，相关企业应当从内容角度去关注用户标签管理规则，完善有关的事前事中评估，不得迎合用户“恶趣味”而进行相关的信息推送。

(5) 新闻信息服务的牌照管理和合规增强义务

《算法规则》第十三条设置了与互联网新闻信息服务相关的算法推荐服务提供者的合规义务。其一，在牌照管理方面，《互联网信息服务算法推荐管理规定》要求算法推荐服务提供者，应当依法取得互联网新闻信息服务许可，将取得“牌照”作为提供互联网信息服务的法定前提；其二，在合规义务方面，《互联网信息服务算法推荐管理规定》针对性地对前述算法推荐服务提供者的增强合规义务进行了列明。

(6) 更广层面的涉“垄断与不正当竞争”算法监管

《互联网信息服务算法推荐管理规定》第十五条系对于利用算法实施垄断和不正当竞争行为的禁止条款，从更为宏观的层面对 “流量造假、流量挟持、自我优待”等行为进行了定性。此等界定方式使得《互联网信息服务算法推荐管理规定》可以与《反垄断法》《反不正当竞争法》等法律有效衔接，而无需设定新的罚则。

(7) 算法推荐服务提供者合规义务清单

基于《互联网信息服务算法推荐管理规定》内容，我们对算法推荐服务提供者的合规义务进行了如下梳理：

二、《互联网信息服务深度合成管理规定》

(1) 身份认证：深度合成服务提供者可通过移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式对深度合成服务使用者进行真实身份信息认证。如使用者未进行真实身份信息认证，则深度合成服务提供者不得为其提供信息发布服务。

(2) 内容管理：《互联网信息服务深度合成管理规定》按照深度合成服务的流程对深度合成服务提供者设置了如下义务：

• 在提供服务前，深度合成服务提供者应建立健全用于识别违法和不良信息的特征库，以用于识别违法和不良内容；
• 在服务中，深度合成服务提供者需采取技术或者人工方式对输入数据和合成结果进行审核并保存有关记录，如发现违法和不良信息的，则深度合成服务提供者负有报告义务，且可以采取警示、限制功能、暂停服务、关闭账号等处置措施限制该等信息的发布；
• 在服务结束/信息发布后，深度合成服务提供者应确保辟谣机制和申投诉机制的流畅运行，且申投诉的适用对象包括没有注册成为用户的普通公众。此外，如果发现利用深度合成服务制作、复制、发布、传播虚假信息的，深度合成服务提供者应当及时向网信部门和有关主管部门报告。

(3) 标识义务：对使用深度生成服务生成或者编辑的信息内容，深度合成服务提供者应当采取技术措施添加不影响用户使用的标识，并依法保存日志信息；同时，深度合成服务提供者应当向服务使用者提供显著标识功能，使其能够对信息内容进行显著标识。

(4) 制度建设：《互联网信息服务深度合成管理规定》对深度合成服务提供者提出了多项制度建设要求，包括管理规则、算法机制机理审核制度、科技伦理审查制度、信息发布审核制度、反电信网络诈骗制度，以及数据安全与个人信息保护制度等。

(5) 技术措施：深度合成服务提供者采取技术措施以安全可控为原则，且应特别注意算法训练管理，并采取必要措施保障训练数据安全。

除以上普遍义务外，深度合成服务提供者还应注意在以下场景下的特殊合规义务：

(6) 单独同意：如深度合成服务涉及提供人脸、人声等生物识别信息编辑功能，则该等服务的实现以取得被编辑的个人信息主体的单独同意为前提。虽然《互联网信息服务深度合成管理规定》要求深度合成服务提供者仅对深度合成服务使用者负有提示其取得单独同意的义务，但并不能实质性免除深度合成服务提供者对该等义务是否确实履行的合理核验责任。

(7) 安全评估：如深度合成服务提供者所提供工具能够生成或者编辑人脸、人声等生物识别信息，或可能涉及国家安全、国家形象、国家利益和社会公共利益的， 应当开展安全评估。

(8) 显著标识义务：在以下情况下，提供深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者的标示义务将被加重，需通过显著标识向公众提示深度合成情况：（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。

(9) 算法备案与安全评估：如是具有舆论属性或者社会动员能力的深度合成服务提供者，则应按照《互联网信息服务算法推荐管理规定》进行算法备案并将备案信息予以公示；且如果深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能，也应开展安全评估，该项安全评估与《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》对新技术新应用的安全评估或为同一评估。

三、《生成式人工智能服务管理暂行办法》

在四月发布的《生成式人工智能服务管理办法（征求意见稿）》（下称“征求意见稿”）中，涉及生成式人工智能内容安全的要求占据了较大的篇幅。这些要求被以法定义务的形式施加给企业，却没有充分考虑企业在落地过程中面临的现实困境，甚至可能挑战生成式人工智能的技术逻辑。这一点在征求意见稿发布后受到了广泛的讨论。

《生成式人工智能服务管理暂行办法》对征求意见稿中的生成式人工智能服务提供者（“提供者”）的合规义务进行了优化调整，为企业在谋求发展与满足合规义务之间预留了一定缓冲地带，充分体现了立法的谦抑性。

一方面，《生成式人工智能服务管理暂行办法》较之征求意见稿减轻了企业的合规负担，包括将企业对训练数据真实性、准确性的控制义务由征求意见稿中命令式的100%保证义务降格为尽职性的努力承诺，大大降低了企业因难以核实全部训练数据真实性、准确性而被迫违法的风险（第七条）；考虑到了提供者对使用者生成内容的有限控制能力，删除了禁止提供者生成歧视性内容的规定。

另一方面，《生成式人工智能服务管理暂行办法》为提供者创设了一定的“发挥空间”。提供者可以通过服务协议方式限定服务使用者教育、监督生成式人工智能服务使用者的合法使用，控制并合理转嫁合规风险（第九条）。同时，征求意见稿中关于提供者一旦发现网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件必须暂停或终止服务的规定被修改为可以依法依约灵活采取警示、限制功能，暂停或终止服务等多种措施，给予提供者一定的自由裁量权（第十四条）；征求意见稿中关于提供者发现违规生成内容需在3个月内优化训练模型的规定也一并删除，尊重提供者在提升算法模型性能和提高内容管理方面的主观能动性。

《生成式人工智能服务管理暂行办法》在原则性条款和具体规定中，都体现了国家对生成式人工智能产业发展的鼓励和支持的态度，既为产业创新提供了政策导向和法律保障，又为产业监管提供了科学合理和平衡适度的框架。

首先，《生成式人工智能服务管理暂行办法》在征求意见稿基础上新增原则性条款，明确提出国家坚持发展和安全并重、促进创新和依法治理相结合的双重原则，为生成式人工智能产业监管划定了基调（第三条）。其次，《生成式人工智能服务管理暂行办法》将《科学技术进步法》作为其上位法，强调其对推动人工智能服务科技进步的核心理念，蕴含着在高效、协同、开放的国家创新体系下，充分发挥市场配置创新资源的立法导向（第一条）。

再次，《生成式人工智能服务管理暂行办法》针对生成式人工智能服务提出了多元化、多层次的鼓励方案。在技术层面上，鼓励算法、框架、芯片、配套软件平台等产业链环节、产品层级的创新；在基础设施建设上，鼓励各级政府和企业共同参与生成式人工智能基础设施和公共训练数据资源平台的建设，促进算力资源协同共享（第六条）；在市场参与度上，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等各类角色在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面的协作配合（第五条）；在资源投入上，推动利用公共数据进行算法训练；在产业扶植上，鼓励企业采购安全、可信赖的芯片、软件、工具、算力和数据资源。

这些规定将在未来数年的生成式人工智能的“军备竞赛”中发挥效用，为企业和国家在全球化的竞争格局中提供了安全保障和稳定支持。

与征求意见稿相比，《生成式人工智能服务管理暂行办法》更加突出行业监管的特性。第十六条规定，网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。这或许意味着，此后对于生成式人工智能的监管将以行业为线索，逐步呈现差异化和针对性。

这种行业导向的监管模式符合生成式人工智能的强技术属性，也有利于各行业根据具体需求为生成式人工智能服务制定更合理的监管标准和措施，既能充分发挥生成式人工智能服务的经济价值，又能有效防范合规风险。例如，对于在新闻业中应用的生成式人工智能，如何防止人工智能生成、传播虚假新闻可能是重要的监管目标；而对于金融行业的生成式人工智能，如何保证其对用户背景和画像的客观性和公正性，以及如何应对系统遭受攻击时对业务连续性的影响则更为紧迫。

通过行业为线索的监管方式，各部门能够更加精准地理解和管理生成式人工智能服务，为不同行业制定具体的监管措施和指导方针，共同推动我国生成式人工智能服务行业的健康发展。

在全球范围内，各国对于人工智能的监管也在积极探索和实践中。从目前已经出台或正在制定的人工智能监管法规来看，算法透明度和分类分级是两大共同关注的核心议题。

算法透明度是指算法的设计、训练、优化、运行等过程能够向外界公开或解释其原理、逻辑、数据、结果等信息，以便进行有效的监督和评估。算法透明度对于监管和社会的可持续发展至关重要。透明的算法可以使用户和相关利益相关方更好地理解系统的决策依据，从而增加对人工智能系统的信任和接受度，同时可以帮助监管机构审查和评估人工智能系统的合规性和公平性，确保其不会产生歧视性、偏见或不当的行为。此外，透明的算法能够促进人工智能技术的创新和进步，通过学习和纠正错误，提高系统的性能和效果。《生成式人工智能服务管理暂行办法》新增提供者需“基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”就是最直观的体现（第四条）。此外，《生成式人工智能服务管理暂行办法》援引《互联网信息服务算法推荐管理规定》对算法备案的要求，也是一种确保算法透明度的方式（第十七条）。

分类分级是指根据人工智能技术及其应用场景对可能产生的风险和影响进行不同程度地划分，并采取相应强度的监管措施。通过分类分级的监管框架，监管机构可以根据人工智能系统的应用领域、风险程度和技术成熟度，制定相应的监管要求和措施。这有助于确保监管更加精准和针对性，避免一刀切的监管模式。同时，分类分级的监管框架也可以促进创新和发展，因为根据不同级别的监管要求，企业和研究机构可以更好地规划和管理技术研发，降低合规成本和风险。《生成式人工智能服务管理暂行办法》已经明确提出了人工智能分类分级的要求，这种监管方式也与《数据安全法》对于数据分类分级保护的手段一致，不排除后续行业主管部门或可就人工智能分类分级和数据分类分级两方面要求形成一套分类分级规则（第十六条）。

在中国以外的其他地区，算法透明度和分类分级的监管思路也在各国立法中有所呈现和实践，例如：

• 欧盟《人工智能法案》将人工智能系统分为不可接受的风险、高风险、有限风险和低/轻微风险四类，针对不同级别的人工智能系统设置了不同的合规要求，并要求高风险人工智能系统需在欧盟专门建立的数据库中备案；
• 美国《数据隐私和保护法案》要求，涵盖实体在应用算法时需向联邦贸易委员会提交算法影响评估和算法设计评价进行备案，并应要求向国会提交算法影响评估和算法设计评价；
• 澳大利亚公布的人工智能立法讨论中，同样明确将对人工智能进行分级管理，将人工智能分为低风险、中风险、高风险三种级别；
• 加拿大公布的《人工智能和数据法案》配套文件中明确，将针对具有重大影响力的人工智能系统设置更为严格的监管规则。

随着全球生成式人工智能进入黄金发展阶段，相关监管立法也预期呈现井喷式增长，各国对生成式人工智能的监管思路的探索以及异同都是值得持续关注的问题。

生成式人工智能服务拥有广阔应用前景和巨大发展潜力的同时也面临着诸多挑战和风险。《生成式人工智能服务管理暂行办法》作为我国首次对生成式人工智能服务进行专门规范的法规，在立法理念、监管路径、核心问题等方面充分体现了包容审慎、兼容谦抑的姿态。《生成式人工智能服务管理暂行办法》的出台不仅为我国生成式人工智能服务行业的健康发展和规范应用提供了法律依据和制度保障，也为全球人工智能监管提供了有益的借鉴和参考。

四、《科技伦理审查办法（试行）（征求意见稿）》

• 涉及人的科技活动，包括以人为研究参与者的测试、调查、观察性研究等，以及涉及使用人类基因、人类胚胎、人类生物样本、个人信息等；
• 涉及实验动物的科技活动；
• 不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动；
• 依据法律、行政法规和国家有关规定需进行科技伦理审查的科技活动。

• 高等学校、科研机构、医疗卫生机构、企业等是科技伦理审查管理的责任主体。
• 从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。其他有伦理审查需求的单位可根据实际情况设立科技伦理（审查）委员会。
• 科技伦理（审查）委员会人数应不少于7人，设主任委员1人。委员会成员应包括具备相关科学技术背景的同行专家委员，和具有伦理学、法学、社会学等相应专业背景的委员。
• 单位设立科技伦理（审查）委员会后的30日内，主动通过国家科技伦理管理信息登记平台进行登记。

• 审查方式：科技伦理审查原则上采取会议审查的方式。
• 审查内容：涉及数据和算法的科技活动，数据处理方案符合国家有关数据安全的规定，数据安全风险监测及应急处理方案得当，算法和系统研发符合公平、公正、透明、可靠、可控等原则。如为涉及人类研究参与者的科技活动，所制定的招募方案公平合理，生物材料的收集、储存和使用合法合规，个人隐私数据、生物特征信息等信息处理符合保护个人信息的有关规定。
• 审查时限：科技伦理（审查）委员会一般应在受理申请后的30日内作出审查决定，特殊情况可适当延长。
• 审查跟踪：科技伦理（审查）委员会应对审查批准的科技活动开展伦理跟踪审查，必要时可作出暂停或终止科技活动等决定。跟踪审查一般不少于每年一次。
• 委托审查：单位未设立科技伦理（审查）委员会或者科技伦理（审查）委员会无法胜任审查工作要求的，应书面委托其他满足要求的科技伦理（审查）委员会开展伦理审查。

• 清单管理：建立伦理高风险科技活动的清单制度，对可能产生较大伦理风险挑战的新兴科技活动实施清单管理。
• 复核审查：开展纳入清单管理的科技活动，应通过本单位科技伦理（审查）委员会的初步审查后，报请所在地方或相关行业主管部门组织开展专家复核。
• 需要开展专家复核的科技活动清单
  1. a. 对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究。
  2. b. 将人干细胞导入动物胚胎或胎儿并进一步在动物子宫中孕育成个体的相关研究。
  3. c. 改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质的基础研究。
  4. d. 侵入式脑机接口用于神经、精神类疾病治疗的临床研究。
  5. e. 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。
  6. f. 具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。
  7. g. 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
• 专家要求：地方或相关行业主管部门组织成立复核专家组，由科技活动相关领域具有较高学术水平的同行专家以及伦理学、社会学、法学等方面的专家组成，不少于5人。科技伦理（审查）委员会委员不得作为本单位承担的纳入清单管理的科技活动的复核专家。
• 复核时限：地方或相关行业主管部门一般应在收到复核申请后30日内向申请单位反馈复核意见。
• 纳入清单管理的科技活动登记：单位应在纳入清单管理的科技活动获得伦理审查批准后的30日内，主动通过国家科技伦理管理信息登记平台进行登记。

相关单位应于每年3月31日前，向国家科技伦理管理信息登记平台提交上一年度科技伦理（审查）委员会工作报告、纳入清单管理的科技活动实施情况报告等。

一、“深度合成算法”与“生成合成类算法”的区别

二、算法备案实务介绍

• 如企业针对同一款算法存在前述两种角色，应当分别完成作为深度合成服务提供者以及深度合成服务技术支持者的备案；
• 如企业仅为服务提供者，不对外提供深度合成服务技术支持，则其仅需要完成作为深度合成服务提供者的备案；
• 对于从技术供应商处采购深度合成技术并利用该技术向终端用户提供深度合成服务的企业而言，无论该深度合成技术供应商是否已完成相关备案，其也需以深度合成服务提供者的身份履行单独的备案义务。

对于集团公司而言，同一个算法可能由集团的多个下属公司共享。在此情形下，集团公司可以选择有权控制算法的公司作为备案主体。但需要注意的是，此情形下算法备案主体可能与应用该算法的AIGC产品的ICP主体不一致。企业需要在主体信息中提交关于算法备案与ICP主体不一致的情况说明，例如二者之间存在关联关系等。

第一步：填报主体信息，填报完成后需等待后台工作人员审核通过方可继续填报算法信息和产品及功能信息。

第二步：填报算法信息，包括算法基础属性信息、算法详细属性信息（详见下图）。

算法基础属性填报内容

算法详细属性填报内容

第三步：关联产品及功能信息或填报技术服务方式，第二步和第三步需一并递交审核。

深度合成服务提供者和技术支持者在算法备案过程中的差异主要在于第三步填报内容不同，即深度合成服务提供者需填报关联产品及功能信息，而深度合成服务技术支持者需填报技术服务方式。具体流程详见下图：

在具体填报的过程中，鉴于填报内容较多，通常情况下需要一定时间准备材料，因此我们建议企业首先根据“互联网信息服务算法备案系统”梳理需要填报的内容，在确认填报的内容准确无误后再行上传至系统中，以免因系统不稳定或者未保存而需重复操作。

（1）落实算法安全主体责任基本情况

在主体信息填报（第一步）中，企业需要上传“落实算法安全主体责任基本情况”表，其主要内容包括企业设置的算法安全专职机构以及制定的算法安全管理制度。算法安全管理制度应当至少包括算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度、科技伦理审查制度等。

（2）算法安全自评估报告

在算法信息填报（第二步）中，企业需要提交算法安全自评估报告，其主要包括算法情况（算法流程、数据、模型和干预策略）、服务情况、风险研判、风险防控情况、安全评估结论等内容。对比服务提供者与技术支持者的算法安全自评估报告模板，服务提供者需提供更多关于内容生态治理、结果标识、辟谣机制，以及用户权益保障方面的说明。

（3）拟公示内容

根据《算法推荐管理规定》第十六条，算法推荐服务提供者应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。在算法信息填报（第二步）中，企业即需要提交算法拟公示内容，主要包括算法基本原理、算法运行机制、算法应用场景、算法目的意图，以供监管机构审核。鉴于目前监管机构并未公布关于算法基本原理、算法运行机制等内容的公示维度，建议企业可参考行业目前的实践做法，把握公示内容的颗粒度，以确保在不泄露算法技术商业秘密的前提下履行算法公示的法律义务。

前述材料是整个算法备案中的关键审核材料，其内容不仅涉及算法基本原理、算法属性等算法技术本身，还涉及算法安全管理制度、组织架构、风险防控措施等算法合规体系构建情况。因此，建议需完成算法备案的企业可提前准备相关内容，必要时，可引入富有经验的外部律师协助企业搭建算法合规体系，尽可能确保算法备案材料的齐备性。

4、备案期限

根据《算法推荐管理规定》第二十五条，当算法材料齐全的，网信部门应当在三十个工作日内予以备案。根据我们的项目实践，在深度合成算法备案过程中，可能存在需公司补正材料的情形，因此完成深度合成算法备案通常需2个月以上。

日前公布的《生成式人工智能服务管理暂行办法》亦对AIGC产品提出算法备案要求。作为人工智能领域的重要监管措施，算法备案已成为AIGC产品的入市门槛。鉴于算法备案所需时间较长，建议需履行算法备案的企业尽早开展算法备案工作。在具体的算法备案过程中，一方面，企业需对自身算法进行全面地梳理，由法务、IT协调配合准备相关备案材料，必要时可引入外部律师协助准备；另一方面，企业需充分了解相关法规要求和备案流程，必要时可与监管部门进行积极沟通和协调。完成算法备案后，应当及时在产品的显著位置公示备案编号，并以恰当的方式公示算法的基本原理、运行机制等内容。算法备案仅是算法治理的环节之一，完成算法备案并非一劳永逸，AIGC产业企业应当主动拥抱监管，积极履行《算法推荐管理规定》《深度合成管理规定》关于算法治理的其他合规义务。

三、备案违法的行政处罚

一、一般性资质

根据《互联网信息服务管理办法》的规定，国家对经营性互联网信息服务实行许可制度；对非经营性互联网信息服务实行备案制度。

针对AIGC产品而言，不论其产品形态是网站、App亦或是小程序，首先需要能够被公众通过域名或者IP地址访问到，才能够为用户提供进一步的服务。因此，获得ICP许可/备案是其上市的前提条件之一。

对于AIGC App的互联网信息服务资质问题，我们分别咨询了工信部以及北上广地区通管局，并整理答复如下：

在上表基础上结合我们的实践经验，当前AIGC产品以取得ICP备案为主流，不论其是否提供付费会员等付费服务。

鉴于ICP备案管理的属地性及常态化，各地通管局官网基本均具备相应的线上备案指南及备案入口，建议AIGC产品服务提供者向属地通管局说明其产品具体服务形式，以获得通管局对于应当履行许可或备案程序的明确指示，并按照操作指南完成相应手续。

此外，ICP许可/备案服务经过二十余年的发展已经形成了一套完整、成熟且高度标准化的流程。在实际办理过程中，AIGC产品服务提供者可委托互联网接入服务商代为办理。

根据《计算机信息网络国际联网安全保护管理办法》等相关规定，凡是接入互联网的单位：包括互联网接入服务单位（ISP）、互联网数据中心（IDC）、互联网信息服务单位（ICP）和国际联网使用单位，均需到公安机关办理备案手续。根据行业实践，通常各网站在完成ICP备案后，或网站部署在非中国内地的服务器上但是为中国内地（大陆）提供服务时，需在网站开通之日起30日内登录“全国公安机关互联网站安全管理服务平台”提交公安联网备案申请。

针对AIGC产品而言，通常均需要通过互联网为用户提供信息服务，因此，AIGC产品网站的开办者或者App运营者均应当按照所在省、自治区、直辖市的属地公安机关的要求完成公安联网备案手续。

与ICP许可/备案类似，公安联网备案手续已经是所有网站、App的“基操”，备案材料、程序以及相关指引相对清晰明确。我们简单总结如下：

• 适用的产品形态：网站、App
• 备案主体：网站开办者、联网单位
• 备案时限：网络正式联通之日起30日内
• 备案渠道：“全国公安机关互联网站安全管理服务平台”（https://www.beian.gov.cn/portal/index.do）
• 备案流程：注册——登录——开办主体信息审核（一般21个工作日内完成审核）——新办网站申请（一般21个工作日内完成审核）——非交互式网站初步审核后即完成备案/交互式网站面审或者实地检查——公安机关核发备案编号——将备案编号放置在网站首页下端
  
  
• 流程时间：2-3个月

更多关于公安联网备案的具体操作流程，可参考“全国公安机关互联网站安全管理服务平台”中的《全国公安机关互联网站安全管理服务平台备案办事指南》。

根据《计算机软件保护条例》，中国公民、法人或者其他组织对其所开发的软件享有著作权。软件著作权人可以向国务院著作权行政管理部门认定的软件登记机构办理登记。目前，国务院著作权行政管理部门认定的软件登记机构以及主流著作权认证有三类：

• 《计算机软件著作权登记证书》。该证书由中宣部下属机构中国版权保护中心登记颁发；
• 《App电子版权认证证书》。该证书由易版权平台——中国版权保护中心与北京版信通技术有限公司共建的移动App第三方证书签名与版权登记联合服务平台——作为认证机构，结合加密数字签名生成；
• 《软件著作权认证证书》由国家版权局主管的中国版权协会作审核认证，并使用区块链（“中国版权链”）进行唯一登记。

著作权本身并不因登记而取得，故上述三项证书均为非强制性的权利性证书，亦非AIGC产品上市的法定要件。但在当今的主流应用市场中，App软件权属成为应用市场的审核条件之一。对于AIGC产品服务提供者而言，在App产品进入应用市场环节的实践中，通常要求提供以上三种证书之一作为软件著作权归属证明。

因此，AIGC产品服务提供者基于满足上架条件的目的，应及时取得《计算机软件著作权登记证书》、《App电子版权证书》或《软件著作权认证证书》。此外，作为特别提示，上述三项证书的申请流程简单，费用不高，但企业需要注意申请材料的准备和齐全程度，避免因为不符合要求而需要进行额外的补正或重新提交申请。

二、基于业务场景的选择性资质

根据《互联网文化管理暂行规定》的规定，从事经营性互联网文化活动的企业应当申请《网络文化经营许可证》。经营性互联网文化活动是指以营利为目的，通过向上网用户收费或者以电子商务、广告、赞助等方式获取利益，提供互联网文化产品及其服务的活动。

针对AIGC产品而言，基于其强大的产品功能及丰富的业务场景，产品将会根据用户的不同指令呈现不同的结果。如在虚拟数字人场景下，AIGC产品的功能中可能会涉及到虚拟数字人的表演、与用户之间的互动等。虚拟数字人的此类行为是否会构成网络表演进而需要申请《网络文化经营许可证》，是一个值得研究的问题。

结合我们向相关监管部门的咨询，可以获悉的参考性判断标准为：应当根据AIGC产品的业务模式、网络文化产品（如网络表演、网络音乐）所占AIGC产品服务的比例、虚拟人物所提供服务的占比（零星或者大部分）来综合判断是否需要取得《网络文化经营许可证》。如AIGC产品的主要功能不是提供网络表演、网络音乐等网络文化产品，仅具备虚拟人物表演的小模块或者有零星的虚拟人物功能，暂不需要办理《网络文化经营许可证》。

基于《网络文化经营许可证》的属地管理属性，建议AIGC产品服务提供者在提供服务前，向省、自治区、直辖市人民政府文化行政部门进行咨询，明确是否需要申请相关许可证。

根据《网络出版服务管理规定》的规定，从事网络出版服务，必须依法经过出版行政主管部门批准，取得《网络出版服务许可证》。网络出版服务是指通过信息网络向公众提供网络出版物。网络出版物，是指通过信息网络向公众提供的，具有编辑、制作、加工等出版特征的数字化作品，范围主要包括：（1）文学、艺术、科学等领域内具有知识性、思想性的文字、图片、地图、游戏、动漫、音视频读物等原创数字化作品；（2）与已出版的图书、报纸、期刊、音像制品、电子出版物等内容相一致的数字化作品；（3）将上述作品通过选择、编排、汇集等方式形成的网络文献数据库等数字化作品；（4）国家新闻出版广电总局认定的其他类型的数字化作品。

对于AIGC产品而言，AIGC的可版权性是当下讨论的热点问题，AI生成的内容是否享有版权以及版权归属于哪一主体，也相应影响着AIGC产品服务提供者是否会构成网络出版服务提供者。结合当前国家新闻出版署关于“设立网络出版服务单位审批”的公示，网络出版服务许可主要还是聚焦在针对图书、音像、电子、报纸、期刊出版单位从事网络出版服务方面，AIGC产品的功能场景中直接涉及到网络出版服务的场景较少。

基于网络出版服务许可管理的属地性，建议AIGC产品服务提供者在提供服务前，向所在地省级出版行政主管部门进行咨询，明确是否需要申请相关许可证。

根据《互联网视听节目服务管理规定》的规定，从事互联网视听节目服务，应当依照本规定取得广播电影电视主管部门颁发的《信息网络传播视听节目许可证》（仅国有独资或国有控股单位才具备申请许可证的资质条件）或履行备案手续。（地（市）级以上广播电台、电视台、中央新闻单位提供互联网视听节目转播类服务的，无需申请许可证但需要履行备案手续）。

对于AIGC产品而言，目前产品功能基本不涉及提供如新闻、广播、转播等服务，因此需要进行信息网络传播视听节目备案手续的可能性较小。鉴于AIGC产品发展的快速性及功能场景的多样性，后续如果在垂直领域中予以应用，则不排除需要备案的可能性。AIGC产品服务提供者可结合原国家新闻出版广电总局（现国家广播电视总局）发布的《互联网视听节目服务业务分类目录（试行）》判断相关产品功能是否构成互联网视听节目服务业务。

三、小结

一、训练数据合规要点

AIGC服务提供者应当使用具有合法来源的数据和基础模型，严格把控数据源的获取方式、合法基础（涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形）等，避免因数据源污染影响算法模型的准确性、真实性等。对此，AIGC服务提供者应当结合具体的数据来源，采取对应性的合规措施：

• 直接收集数据：如训练数据来自用户在使用AIGC产品中提供和产生的数据，则AIGC服务提供者应当依法取得合法性基础，如获取用户的同意或者单独同意等；
• 外部采购数据：如训练数据是采购自外部第三方的数据，则AIGC服务提供者首先应当对数据提供方开展合规尽调，就其数据保护能力、组织管理、操作规程等进行调查，选定后应当与数据合作方签署合作协议，要求合作方对数据来源的合法性作出承诺和保证；
• 外部抓取数据：此类抓取的形式有很多，主要的表现形式之一便是线上爬取。AIGC服务提供者应当根据爬取手段、爬取内容、被爬取网站/平台的禁止性要求/robots协议、爬取数据的后续使用等，评估爬取行为的合规性并谨慎开展数据爬取行为；同时应当关注数据爬取过程中的著作权侵权等风险。

《生成式人工智能服务管理暂行办法》提出，将会推动公共训练数据资源平台建设。对于AIGC服务提供者而言，后续公共平台建成后，将能够一定程度上保障数据来源的合法性。但目前该平台建设的规划、进展以及后续数据使用的规则尚不明确，训练数据的来源仍集中在直接采集、外部采购和外部抓取这几种形式，因此，AIGC服务提供者仍应当根据上述要求保障数据来源的合法性。

AIGC服务提供者应当采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。结合我们的实践经验，AIGC服务提供者可以从以下几个方面提高训练数据的质量：

• 运用数据清洗和预处理技术，排除噪声和偏差：采用数据去重、去除异常值、纠正错误和标注不准确的数据等方法，以提高数据集的准确性和一致性；
• 注重数据的客观性和多样性：通过搜集来自不同来源、不同领域和不同背景的数据，确保训练数据集具有广泛的覆盖范围，减少因为偏向性而导致的结果失衡问题；
• 建立监测和反馈机制持续监控和评估数据质量：定期检查模型输出的准确性和一致性，并根据反馈进行模型的优化和改进。

AIGC服务提供者在生成式人工智能技术研发过程中进行数据标注的，应当制定符合《生成式人工智能服务管理暂行办法》要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升遵法守法意识，监督指导标注人员规范开展标注工作。

模型正误标注规则、有害标注规则、语义标注规则、弱监督标注规则、人工审核标注规则等均是常见的标注规则。除标注规则外，AIGC服务提供者还可考虑设定配套的标注流程、质检流程以及执行规则。日前，已经有国内知名媒体平台表示正在建设主流价值语料库，并有望在8月上旬推出第一阶段的语料库，我们期待“国家队”能够发布更多数据标注的参考和实践指引。

二、信息安全治理要点

1. 生成内容标识

AIGC服务提供者应当按照《互联网信息服务深度合成管理规定》的要求，采用技术措施添加不影响用户使用的标识，即隐式标识；同时需在生成或编辑的信息内容的合理位置、区域进行显著标识，即显式标识。此前，业内对于显式标识单独合规水位线缺乏统一的认知。2023年8月7日全国信安标委发布《网络安全标准实践指南——生成式人工智能服务内容标识方法（征求意见稿）》，对标识方式和标识内容提出了统一的要求。例如，显示标识提示文字应至少包含“由人工智能生成”或“由 AI 生成”等信息并设置于图片、视频画面四角；隐式标识至少需包含服务提供者的名称等。该要求尚在征求意见中，AIGC服务提供者可根据自身的实际情况积极提出修改意见。

此外，结合我们的实践经验，如果AIGC产品未设置显著标识的功能，将可能会直接导致无法顺利完成算法备案，对此，建议AIGC服务提供者可参照《网络安全标准实践指南——生成式人工智能服务内容标识方法（征求意见稿）》落地标识义务。

2. 生成内容准确性、可靠性、价值观保障

AIGC服务提供者可通过加强对生成模型的解释性和可解释性的研究和开发、加强训练数据的质量控制和验证提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

同时，《生成式人工智能服务管理暂行办法》明确AIGC服务提供者首先应当坚持社会主义核心价值体系。未来AIGC产品的内容价值导向合规与意识形态安全将会成为监管的重点内容，对此，AIGC服务提供者可以通过建立主流价值语料库、符合主流价值的大模型等方式保障生成内容符合主流价值，避免出现价值导向风险、话语权垄断风险、路径依赖风险、虚假信息风险、内容操纵风险等。

3. 不良、违法内容处置

对于违法内容，AIGC服务提供者应以限制内容生成、传播为要务。AIGC服务提供者应根据服务用途、功能场景等建立健全识别违法和不良信息的特征库，并完善入库标准、规则和程序，记录并留存相关网络日志。

如发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。此外，AIGC服务提供者还应特别注意对前述处置措施进行留痕。

4. 违法活动处置

对于违法内容，AIGC服务提供者应以控制活动影响范围为要务。如发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

三、产品外部合规要点

1. 实名认证

《生成式人工智能服务管理办法（征求意见稿）》明确要求提供生成式人工智能服务应当要求用户提供真实身份信息，而在正式发布的《生成式人工智能服务管理暂行办法》中该条款被予以删除。我们理解，这是因为目前为用户实名制提供法律基础的《网络安全法》《互联网用户账号名称管理规定》以及《互联网用户账号信息管理规定》针对实名要求所设定的情形以发布信息、即时通讯服务为主。换言之，如果AIGC产品不具备发布信息或即时通信的功能，则不应强制实名。

然而，不可否认的是，AIGC产品的主流输出物（文字、图片、视频、音频等）本身即具有较强的信息要素，考虑到AIGC产品市场化的安全性以及监管趋势，若AIGC服务提供者所提供的服务需要用户进行账号注册后方可使用，则建议按照“后台实名、前台自愿”的原则，要求AIGC服务使用者通过真实身份信息认证后注册账号。实名认证的方式包括基于移动电话号码、身份证件号码等进行身份认证。

此外，AIGC服务提供者可以将实名认证的具体流程和要求等通过制定《用户注册制度》明确并固定下来，并妥善保存作为合规证明材料。

2. 服务协议签订

AIGC服务提供者与使用者签订服务协议为其法定义务：

• 形式上，AIGC服务提供者可以在用户注册界面展示协议文本，并要求用户勾选同意；
• 内容上，服务协议中应当明确双方权利义务，同时应当明确保障用户权益的具体措施，如投诉举报途径的设置、行权路径等，以备算法备案与安全评估过程中的监管核查。

3. 服务详情公开

AIGC服务提供者应当明确并公开其服务的适用人群、场合、用途，可通过使用手册、使用页面设置等方式指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施（如限定服务范围、限定服务时间）防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

4. 处理个人信息合规

《个人信息保护法》是《生成式人工智能服务管理暂行办法》的上位法，这要求AIGC服务提供者在涉及处理个人信息的活动时，应当完全遵守《个人信息保护法》的相关规定。特别是，不得收集非必要个人信息，不得非法留存和对外提供可识别使用者身份的输入信息和使用记录；同时应当注意依法设置用户行权途径，及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等请求。

5. 健全投诉、举报机制

AIGC服务提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口（包括在线平台、电子邮件、热线电话等多种形式），通过平台规则、服务协议或者产品页面等方式公布处理流程和反馈时限，可设立专门的投诉举报处理团队，及时受理、处理公众投诉举报并反馈处理结果。

四、禁止垄断和不正当竞争

一、防止歧视

二、科技伦理审查机制

针对AIGC服务提供者而言，首先应当设立科技伦理（审查）委员会，根据法规具体要求履行相应的合规义务，科技伦理（审查）委员会的设立主要关注以下两个方面：

• 委员会组成及任职要求：人数应不少于7人，设主任委员1人。委员会成员应包括具备相关科学技术背景的同行专家委员，伦理学、法学、社会学等相应专业背景的委员，不同性别的委员以及非本单位的委员，少数民族地区的应考虑配备少数民族委员。委员任期不超过5年，可以连任；
• 委员会管理制度要求：建立审查、监督、保密管理、档案管理等制度，建立科技伦理应急审查制度。

AIGC服务提供者在设立科技伦理（审查）委员会后，在科技伦理（审查）委员会履职前及履职过程中，需要依照法律要求履行相应的备案程序，备案程序重点关注以下几个方面：

• 备案平台：“国家科技伦理管理信息登记平台”。据悉“国家科技伦理管理信息登记平台”已经在建设中，该平台后续将用于企业科技伦理（审查）委员会备案和涉及科技伦理的科技活动（包括人工智能等科技活动）的审核。
• 备案情形
  需对已设立的科技伦理（审查）委员会进行登记备案；备案内容包括伦理委员会名称、依托单位、成立时间、成立文件上传、伦理审查领域、伦理委员会联系人及联系方式、伦理委员会章程文件上传、伦理相关工作制度或工作规程文件上传、伦理委员会年度报告文件上传等内容。
  需对纳入清单管理的科技活动（同下文需申请专家复核的情形），在获得企业内部伦理审查批准后的30日内进行登记备案。

AIGC服务提供者开展企业内部的科技伦理审查需要按照法规要求的相关流程，并针对不同情形适用不同的程序（包括简易程序、普通程序、专家复核程序），具体流程如下：

根据《科技伦理审查办法（试行）（征求意见稿）》，针对如下三种情形，AIGC服务提供者在完成企业内部伦理审查后需申请专家复核，企业内部科技伦理（审查）委员会应根据专家复核意见作出科技伦理审查决定，AIGC服务提供者应按照最终的科技伦理审查决定开展科技活动：

• 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；
• 具有社会舆论动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；
• 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。

三、小结

一、知识产权保护框架

对于生成式人工智能涉及的算法的可专利性，业界存在争论。根据《专利法》第二十五条，规则和方法的智力活动不能获得专利。因此，算法作为一种数学运算模型，可能被视为抽象运算思维而不具备可专利性。在申请专利的过程中，AIGC服务提供者应将算法与实际解决的技术问题相结合，体现算法步骤的执行能够采用具有自然规律的技术手段，解决具体技术领域的具体技术问题，并形成具体的技术效果，并在算法设计中将各个特征与参数与解决该具体技术问题的特征和参数紧密关联，使之成为可专利的新发明。具体要求，企业可参考国家知识产权局发布的第343号公告。另外，在AIGC产品的研发过程中，应避免使用他人已专利的工具进行开发，以防止专利侵权纠纷。

此外，如上所述，算法专利的侵权诉讼中常常面临侵权举证难、侵权主体认定难等困境。从降低权利人侵权举证责任的角度考虑，算法专利在撰写时应尽量保证技术特征的可视化。例如，当算法改进在于模型时，优先考虑布局模型应用权项；当算法改进仅在于数据清洗、特征提取、数据采集、特殊场景转用等，而不涉及模型本身的结构或参数，可以将模型视作黑盒处理。算法专利在撰写时善用当前法律框架下的举证责任分配规则及举证途径。此外，也可以考虑将专利与开源软件相结合，即将算法对应的代码对外开源形成开源代码，针对算法对应的方法申请专利，在开源代码与对应的算法专利之间建立对应关系，从而将专利侵权举证转化为开源软件使用行为举证，降低举证难度。

从降低侵权主体认定难度的角度考虑，算法专利在撰写时建议布局方法、设备、存储介质和系统等多种保护主题，以全面保护；另外，方法权利要求尽可能限定由单一主体实施，在同一权利要求中不要将训练阶段和执行阶段混为一谈，因为这两个过程通常是由不同主体实施的。

首先，开发者应当重视计算机软件的著作权保护问题。AIGC产品的权重和参数等通过编码生成，受计算机软件著作权保护。当前，AIGC产品的开发过程中往往会对已经相对成熟的AIGC产品进行不同程度的借鉴，可能涉及到模型结构、算法优化、训练方式等多个层面。故此，AIGC企业在开发过程中需要对潜在的著作权侵权风险保持足够的警惕。在具体操作过程中，如果开发团队在研发过程中对他人的专有软件进行借鉴，则必须尽量避免采用逆向工程、反编译等往往易触发软件著作权侵权风险的源码溯源措施。同时，开发团队还需要严格遵守相关产品的许可使用限制。以OpenAI的ChatGPT产品为例，其使用条款中明确禁止任何人利用其产品生成的内容开发竞品，或者通过任何自动化或编程方式爬取其数据。对于利用开源软件的开发团队，虽然开源社区的开放性为AIGC产品的快速研发提供了便利，但团队也需要对开源软件的许可协议有所了解，以确保合规使用。对开源许可协议的理解和尊重，将在下文中进行深入讨论。总的来说，AIGC产品的研发过程涉及多个环节和层面，对于著作权保护的理解和遵守，不仅需要在技术层面有所保障，还需要在内控措施层面有所制度化，形成全方位的保护机制。

其次，要充分考虑现有法律对作品使用的限制。AIGC在训练中需要大量使用各种数据物料，进行充分的文本与数据挖掘（Text Data Mining，下称“TDM”），其中不乏享有著作权保护的作品。目前，世界主要国家对TDM都规定了不同的版权例外规则。从鼓励产业发展的角度以及从现有境外立法趋势而言，从版权“合理使用”的角度去豁免TDM无疑是当下的趋势。从我国现有法律实践上看，以“合理使用”来对TDM进行合理合法性论证存在诸多问题，无法自圆其说。因此需要有赖于立法者进一步的解释或对法律的更新。对于AIGC从业者而言，在产品发布前，AIGC服务提供者应细化有关的知识产权保护策略，至少从风险防范和诉讼的角度去规划自身的知识产权合规体系。例如，AIGC产品通常通过生成图片、文字、视频或音频等为用户提供服务。为避免生成内容侵犯他人著作权，我们建议提供者建立知识产权评估体系，对采集+训练+生成+服务的产业闭环进行知识产权合规性评价。另外，从侵权角度出发进行合规分析，建议企业可对生成结果进行一定程度的干预，确保生成物去风格化、去特定情节以及去特定艺术特质。我们看到，一些成熟企业已设定了使用限制，例如禁止用户将AIGC生成的内容展示为人工制作作品，或在公开发布生成作品时，必须声明AIGC产品的作用。这样可以防止生成内容被误认为人的“智力成果”，一定程度上避免侵权纠纷。

《反不正当竞争法》将商业秘密定义为未公开、有商业价值并经保密措施保护的技术或经营信息。在生成式人工智能领域，优秀的AIGC产品的核心技术、数据集、模型结构等“know-how”至关重要。对于这些商业秘密的保护，权利人必须证明已采取了严格有效的保密措施。我们建议所有AIGC企业，特别是新设立的技术公司，制定并执行严格有效的保密措施，包括设立保密制度、内控流程、技术限制以及对核心员工的竞业限制等，规范企业的商业秘密保护措施。

另外，AIGC技术和服务场景的交互性也为企业商业秘密保护带来了新的课题，即AIGC服务提供者必须在提供服务时应谨慎对待用户的输入内容，不能一概而论地将用户数据进行收集并用于算法训练，而导致用户商业秘密泄露。三星禁用ChatGPT事件中，正是由于三星员工在使用ChatGPT过程中输入了公司产品的机密信息，而导致商业秘密外泄。因此，若未来AIGC产品追求商业化的普及，则必须更好的回应用户对其商业秘密和技术秘密保护的需求。

二、开源合规应对措施

开源许可类型大体上可以分为强开源的“著佐权”（copyleft，是一个由自由软件运动所发展的概念，是一种利用现有著作权体制来保护所有用户和二次开发者的自由的授权方式。）类，例如GPL、AGPL、LGPL，以及宽许可类（permissive）开源许可，例如MIT、Appache2.0、BSD等。在“著佐权”权类许可场景下，如AIGC产品研发过程中对其进行结合、部分结合或衍生创作，将会引发传染效应，即整个产品都必须按照同一许可证进行开源发布。否则，该产品将被取消相关授权，产生违约或侵权风险。相比之下，宽许可类许可证对下游使用者的限制非常少，通常包括免责声明、保护和尊重原作者的著作权、对衍生创作部分进行显著标识等要求，但并不限制下游使用者进行闭源商用。因此，我们建议在AIGC产品研发过程中，开发者应优先考虑使用宽许可类许可证下的模型或代码，避免使用“著佐权”类开源许可证下的模型或代码。若非要使用“著佐权”类开源许可证下的模型或代码，应通过技术与法律手段，结合特定开源许可证的特性（例如LGPL可以考虑采取动态库链接的方式）来合理规避开源“传染”风险。对常见开源许可证的具体要求，为方便企业能够跟直观的理解，我们初步总结如下：

由于生成式人工智能产品的组成部分具有一定的独立性，实践中常常出现AIGC不同版本，或者单个AIGC产品的权重、参数等，分别对应不同许可模式，或者不同开源许可证的情形。结合Github上的公开信息举例说明，ChatGPT2.0为开源模式，其许可证为使用限制极少的MIT宽许可证 ，但ChatGPT3.0与4.0则为商用专有软件，受其复杂的商用许可条件限制；ChatGLM-6B虽然总体处于开源许可证下，且其许可证为限制较少的Appache2.0宽许可证，但其模型参数却受到额外的“MODEL_LICENSE”许可条件限制 。另外，Meta声称其最新版本的LLAMA2为开源模式，但其并未使用任何通行开源许可证进行发布，而是自行制作了适用于该模型的“社区版使用许可”。在该许可中，Meta要求在LLAMA2发布时，所有活跃用户超过700万人的企业禁止按照“社区版使用许可”的条件使用LLAMA2，以达到限制竞争的目的。因此，我们建议AIGC开发者在开源生态中借鉴其他产品进行开发时，要深入了解与适应不同的开源许可证要求，注意区分不同产品、同一产品不同版本与不同部分所使用的具体许可类型及其开源许可范围。基于此，企业才能提前构建完善的开源合规体系，有效防范潜在的知识产权风险。在构建内部开源合规管理体系时，企业可以参考以下步骤和方向：

① 步骤一：源代码识别。企业需要系统地识别和记录所有使用开源代码的来源和许可证类型。
② 步骤二：确定使用策略。在了解清楚每份代码的许可证类型后，企业需要明确每种许可证下的代码或软件的使用方式，以及这些许可证对商业化模式的影响。同时，企业还需要研究许可证之间的兼容性，以防止许可证冲突。
③ 步骤三：风险应对策略。企业需要特别关注开源侵权和违约风险较高的商用模式，例如使用了GPL/AGPL许可证的软件。对于这些模式，企业需要预先准备应对可能的侵权指控，并积极寻找和开发替代方案。
至于非标准加密类（non-standard cryptography）开源软件的出口管制限制，鉴于目前尚未见到此类软件在AIGC领域的具体应用，故暂不赘述。

三、小结

一、产品合规义务 　

二、内部合规管理要求 　

三、外部监管合规应对义务