【人工智能】人工智能生成合成内容标识义务新规解读、问题探讨与合规建议
张全胜 刘旭龙 竞天公诚律师事务所

一、引言

2025年3月7日,国家网信办、工信部、公安部、广电总局公布的《人工智能生成合成内容标识办法》(下称“《标识办法》”)将于2025年9月1日起施行。国家市监总局、国家标准委于2025年2月28日发布强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(GB 45438—2025,下称“《标识方法》”)也将于2025年9月1日同步实施。本文旨在解析生成合成人工智能内容标识义务、探讨规范相关法律问题并为相关主体落实内容标识义务提供参考建议。

二、标识义务规范体系概述

人工智能技术快速发展,为文字、图片、音频和视频等内容的自动生成与合成提供了便利工具,人工智能生成内容(AIGC)能够实现海量信息的快速生成合成并通过网络传播,同时放大了技术滥用、虚假信息扩散等风险。

国际上,各国正积极探索建立人工智能生成合成内容标识制度,以应对新形势下信息内容治理的严峻挑战,即要求相关服务提供者在生成合成的内容中添加标识,以明确其系人工智能生成或合成。欧盟《人工智能法案》、美国《加州人工智能透明度法案》等已均规定了相关要求。

近年来,我国也陆续地颁布了多部部门规章及配套文件,以规范各类主体对人工智能生成合成内容的标识义务,主要文件如下表所示:
 

序号
 
名称
 
发文机关
 
效力位阶
 
施行日期
 
相关主要条款
 
1
 
《网络音视频信息服务管理规定》
 
国家网信办、文旅部、国家广电总局
 
部门规范性文件
 
2020.01.01
 
第十一条(网络音视频信息服务提供者和网络音视频信息服务使用者显著标识义务)
 
2
 
《互联网信息服务算法推荐管理规定》
 
国家网信公、工信部、公安部、国家市监总局
 
部门规章
 
2022.03.01
 
第九条(算法推荐服务提供者标识义务)
 
3
 
《互联网信息服务深度合成管理规定》
 
国家网信办、工信部、公安部
 
部门规章
 
2023.01.10
 
第十六条至第十八条(深度合成服务提供者标识义务等)
 
4
 
《生成式人工智能服务管理暂行办法》
 
国家网信办、发改委、教育部、科技部、工信部、公安部、国家广电总局
 
部门规章
 
2023.08.15
 
第十二条(生成式人工智能服务提供者标识义务)
 
5
 
《网络安全标准实践指南——生成式人工智能服务内容标识方法》
 
全国信安标委
 
部门工作文件
 
2023.08.25
 
全文(具体的标识方法指引)
 
6
 
《<人工智能生成合成内容标识办法>答记者问》
 
国家网信办
 
官方政策解读
 
2025.03
 
全文
 
7
 
《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》
 
全国网安标委
 
部门工作文件
 
2025.03
 
全文(编码规则指引)
 
8
 
《网络安全技术 人工智能生成合成内容标识方法》
 
国家市监总局、国家标准委
 
部门规范性文件(强制性国家标准)
 
2025.09.01
 
全文(具体的标识要求)
 
9
 
《人工智能生成合成内容标识办法》
 
国家网信办、工信部、公安部、国家广电总局
 
部门规范性文件
 
2025.09.01
 
第一条至第十三条(标识义务主体、适用范围、标识类型等)
 

2023年8月15日实施的《生成式人工智能服务管理暂行办法》是我国最早全面监管生成式人工智能的部门规章,提出“显著标识”原则,但并未进一步规定标识制度的具体细节;《标识办法》从宏观管理角度,规定提供生成合成服务的网络信息服务提供者、提供网络信息内容传播服务的服务提供者、互联网应用程序分发平台、用户等主体关于在生成合成内容中添加、检测显式标识和隐式标识等主要义务,构建标识管理的基础架构体系;《标识方法》旨在通过统一的、具体的技术标识规范,解决生成合成内容与真实信息的边界模糊问题,遏制技术滥用对公共秩序和个体权益的侵害。[1]《标识办法》《标识方法》两份文件首次采用了“人工智能生成合成内容”的表述,其配套颁布实施标志着我国生成式人工智能标识管理迈入系统化精细化的新阶段。[2]

三、对《标识办法》的理解

(一)《标识办法》的适用范围

根据《标识办法》第二条,其适用范围包括符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(下称“服务提供者”)开展人工智能生成合成内容标识活动。

结合《标识办法》第二条所转介的规范,服务提供者至少应包括算法推荐服务提供者、深度合成服务提供者、生成式人工智能服务提供者等。《标识办法》的具体规定又将服务提供者分为一般服务提供者与提供网络信息内容传播的服务提供者,此外,还明确了互联网应用程序分发平台、用户与内容标识相关的活动的规制规则。

(二)标识的种类

根据《标识办法》第三条,人工智能生成合成内容标识分为显式标识与隐式标识两类,其中,显式标识是以文字、声音、图形等方式呈现的,可被用户明显感知到的标识,既可在生成合成内容中添加也可在交互场景中提示,如文字提示、通用符号、音频节奏等;隐式标识则是指不易被用户明显感知到的标识,可采取技术措施在文件数据中添加,如在文件元数据中添加的内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息,或者数字水印等。

根据《标识办法》第五条及其转介的规范,隐式标识适用于深度合成服务提供者对于使用其服务生成或者编辑的信息内容;根据《标识办法》第四条及其转介的规范,显式标识适用于深度合成服务提供者对于其提供的特定情形下的生成或者编辑的信息内容,即在该等情形下,显式标识与隐式标识应当共存。

2025年3月全国网络安全标准化技术委员会发布的《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,为相关主体开展文件元数据隐式标识提供了编码指引。[3]

(三)内容标识活动相关义务

1.标识义务

根据《标识办法》及作为其渊源的规范,标识义务包括积极的添加标识的义务和消极的不得删除标识的义务两个维度,具体可以归纳为以下几种情形:

(1)算法推荐服务提供者

根据《互联网信息服务算法推荐管理规定》第九条第一款,算法推荐服务提供者发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

(2)深度合成服务提供者

根据《互联网信息服务深度合成管理规定》第十六条、第十七条的规定,深度合成服务提供者的标识义务分为隐式标识义务和显式标识义务两类:第一,隐式标识义务。深度合成服务提供者对使用其服务生成或者编辑的信息内容,均应当添加隐式标识。第二,显式标识义务。深度合成服务提供者提供特定深度合成服务的,应当对使用其服务生成或者编辑的信息内容添加显式标识,即:深度合成服务提供者提供《互联网信息服务深度合成管理规定》第十七条第一款第(一)至(五)项规定的智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、人脸操控、姿态操控、沉浸式拟真场景相关的服务及其他具有生成或者显著改变信息内容功能的服务,可能导致公众混淆或者误认的,应当添加显式标识;深度合成服务提供者提供《互联网信息服务深度合成管理规定》第十七条第二款规定的服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

(3)生成式人工智能服务提供者

根据《生成式人工智能服务管理暂行办法》第十二条,生成式人工智能服务提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

(4)提供生成合成服务的服务提供者

根据《标识办法》第四条、第五条、第八条,服务提供者一方面应当依据《标识办法》及作为其渊源的规范履行标识义务,另一方面,应当在用户协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

(5)网络信息内容传播服务者

根据《标识办法》第六条,网络信息内容传播服务者应当根据其所传播的网络信息内容含有显式标识、隐式标识、用户声明或者生成合成痕迹等情况,对其所传播的网络信息内容添加显著的提示标识,提醒公众该等内容为“属于生成合成内容”“可能为生成合成内容”或者“疑似生成合成内容”,并且在文件元数据中添加隐式标识;与此同时,还应当提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。

(6)用户

根据《标识办法》第十条,用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

(7)除外情形

根据《标识办法》第九条,服务提供者在特定情形下可以向用户提供没有添加显式标识的生成合成内容,即:用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。

(6)消极义务

《标识办法》除规定了应当进行标识的积极义务外,还规定了任何组织和个人均应当遵守的消极义务,即:任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

2.标识核验或检测义务

根据《标识办法》第六条,提供网络信息内容传播服务的服务提供者负有核验文件元数据是否含有隐式标识,检测用户声明、显式标识或者其他生成合成痕迹的义务。

根据《标识办法》第七条,互联网应用程序分发平台对于提供人工智能生成合成服务的互联网应用程序服务者,应当核验其生成合成内容标识相关材料。

需要注意的是,《标识办法》中规定的网络信息内容传播者、互联网应用程序分发平台,以及《互联网信息服务算法推荐管理规定》中规定的算法推荐服务提供者的标识核验或检测义务通常需要以网络信息内容所涉显式标识、隐式标识、用户声明或者生成合成痕迹等为基础,基于形式或外观对相关内容是否或者疑似通过人工智能生成合成进行判断,上述判断流程对标准明确性与算法准确性提出极高要求,需要完善的合规制度予以保障。

四、规范相关法律问题探讨

(一)适用主体界定及分类的内在矛盾可能引发理解困惑

根据上文对《标识办法》的解读,我们注意到作为《标识办法》渊源的《互联网信息服务深度合成管理规定》使用了深度合成服务提供者、技术支持者、深度合成服务使用者的概念,《生成式人工智能服务管理暂行办法》使用了生成式人工智能服务提供者、内容传播服务提供者的概念;而《标识办法》在将该等文件作为渊源的情况下,又另外使用了服务提供者、提供网络信息内容传播服务的服务提供者、互联网应用程序分发平台等不同于渊源法律文件的术语;同时,《标识办法》对服务提供者等使用主体设定的义务又大量使用转介条款。在《标识办法》对适用主体缺乏明确的定义的情况下,容易导致理解困惑,甚至出现权利义务适配上的偏差。

(二)适用条件不明确容易造成适用障碍

《标识办法》规定服务提供者的标识义务的核心条款为第四条和第五条,该两者则分别转介到《互联网信息服务深度合成管理规定》的第十七条、第十六条。以《互联网信息服务深度合成管理规定》的第十七条的解读为例,倘若采取严格的解释,该条款的适用条件应当包括四个方面:(1)内容应为网络信息;(2)主体应为深度合成服务提供者;(3)服务应当属于规定的类别;(4)可能导致公众混淆或者误认。在这种情况下,《标识办法》第四条似乎无法涵盖深度合成技术之外的其他生成式人工智能技术产生的内容,该类内容仅需服务提供者在提供内容下载、复制、导出等功能时,确保文件中含有满足要求的显式标识即可;同时,“可能导致公众混淆或者误认” 也没有明确判断标准,极易在实践中被扩大解释。如这种适用条件不明确的情况,将容易阻碍《标识办法》的适用。

另外,从体系上看,《网络音视频信息服务管理规定》第十一条第一款、《互联网信息服务算法推荐管理规定》第九条第一款,均未对生成合成内容做特殊要求,只要是采用相关技术生成且未做标识的内容均应予以显著标识;而如上文所述,《互联网信息服务深度合成管理规定》及《标识办法》则对标识的适用情形做了区分,包括区分为隐式标识、显式标识,而且进一步地对显式标识的适用设定了前提条件。这种体系上的差异和矛盾,无疑也增加了《标识办法》适用的难度。

(三)提供网络信息内容传播服务的服务提供者核验及标识机制不完善可能产生新的争议

首先,从信息传播的周期来看,传播阶段的标识更具有决定性作用。[4]但是,《标识办法》对于传播阶段的规定篇幅较少,对于传播阶段提供网络信息内容传播服务的服务提供者这一重点规范对象缺乏应有的规范体系。其次,《标识办法》虽然规定了提供网络信息内容传播服务的服务提供者核验及标识的部分机制,但是,未就标识错误或者争议提供解决指引。倘若,人类用户创作的内容因提供网络信息内容传播服务的服务提供者核验技术不足等因素,被其错误标识为人工智能生成合成内容、或者疑似为人工智能生成合成,可能导致核验主体的侵权责任。

(四)标识内容分类体系单一可能引发新的争议

根据《标识办法》《标识方法》的有关规定,标识的内容和分类指引比较简单且单一,出于不影响用户体验和降低服务提供者成本考虑,若在形式上特别关注标识是否便于提示公众内容涉及人工智能生成合成技术的使用,则在实质上便无法兼顾就相关技术对内容的介入程度进行描述。

如人类用户利用人工智能生成合成内容进行再创作、再编辑的场景下,倘若一味地要求对成果内容添加标识而含混了人类用户与人工智能对于内容的贡献度,可能影响内容受众对于其价值的判断,进而降低人类用户的创作积极性。

这种注重形式上的标识内容和分类的做法,将会给人类用户带来困惑——利用人工智能技术到何种程度才需要进行显式标识;与此同时,对于负有为用户提供标识功能义务的服务提供者也会带来困惑——涉及用户二次创作需如何标识以避免损害用户权益,标识功能是否应当扩展到允许用户对内容生成过程作出详细说明。这些因素可能导致用户与服务提供者围绕双方的权利义务产生新的争议。

(五)服务提供者侵权责任认定产生新的变化

广州互联网法院审理的一起涉及“奥特曼”形象的关于生成式人工智能服务提供者侵害著作权的案件判决[5]中,法院结合《生成式人工智能服务管理暂行办法》关于标识义务的规定对生成式人工智能服务提供者的注意义务进行论述,并进一步认定被告存在过错应当承担相应的赔偿责任。可以预见的是,《标识办法》对服务提供者的标识义务提出了进一步明确要求,在类似的争议中服务提供者注意义务的认定将更有针对性;同时,随着标识义务的落地,标识内容明确程度不一、标识错误、用户与服务提供者对于标识义务的分歧等问题,将可能会催生服务提供者侵权责任认定产生新的变化。

五、合规建议

(一)关注立法及政策动态及监管要求

据悉,为进一步支撑《标识方法》国家标准落地,为相关主体提供更加明确的规范指引,国家网络安全标准化技术委员会正在就各文件格式的元数据标识规范、各应用场景的标识方法等组织编制一系列推荐性标准、实践指南,包括标识检测技术、元数据安全防护技术等细分方向,以及文本、图片、音频视频格式的实践指南编制工作[6]。

实践中,监管部门对包括用户在内的标识义务主体已经开展涉及标识义务的专项整治工作。自2025年4月中央网络安全和信息化委员会办公室启动的“清朗·整治 AI 技术滥用”专项行动,第一阶段重点整治6类突出问题包括“服务提供者未对深度合成内容添加隐式、显式内容标识,未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别,导致虚假信息误导公众。”[7]

服务提供者及用户需要及时关注立法及政策动态,掌握相关技术标准与合规指南,了解最佳行业实践,还应加强与监管部门的沟通,以明确监管口径,进一步防范监管风险。

(二)完善用户协议、平台规则、合作协议

实践中,服务提供者的类型较为宽泛,且可能包括多种不同的角色,如模型开发者、模型运营者、传播平台、技术支持者等。在多种多样的服务提供者、用户之间,用户协议、平台规则以及相关主体之间的合作协议形成了私法权利义务的关键纽带。一方面,随着《标识办法》的实施,完善用户协议、平台规则等本身就是履行标识义务的题中之义;另一方面,完善用户协议、平台规则、合作协议等,寻求标识义务在各个主体之间的分配,也是实现定分止争的必要路径。

尤其是对于传播平台而言,在提升核验检测技术、安全防护技术过程中,涉及与技术开发者、供应商等第三方主体之间的权利义务安排;在标识添加流程、标识纠错机制设计等方面又面临着第三方主体权益维护、用户权利保护等的利益平衡。《标识办法》一方面设置了比较高的核验与添加标识的义务,另一方面又对于核验与添加标识义务的规定缺乏体系性规范,容易导致相关义务解释的随意性以及提高引发争议的风险。同时,近期司法实践也为传播平台优化核验技术、透明化核验过程等提出了新的要求。因此,完善用户协议、平台规则、供应商合作协议对于传播平台具有十分重要的意义。

(三)关注标识义务的实质促进行业发展

《标识办法》《标识方法》旨在促进人工智能健康发展,治理生成合成技术滥用、虚假信息传播加剧等问题,通过标识提醒用户辨别虚假信息,重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的内容安全管理,打造可信赖的人工智能技术。

把握标识义务的实质,围绕实质要求指导相关主体的活动,有助于克服概念和体系的矛盾,避免《标识办法》实施障碍。例如,隐式标识的规范核心在于强化元数据管控与安全防御机制,追求内容溯源与风险防控,在成本可控的情况下,服务提供者有必要在隐式标识中自主部署安全策略,维护内容及标识的完整性、抗篡改性、可追溯性;又如,标识的核心功能价值之一在于防范虚假信息泛滥,考虑到促进人类用户与人工智能技术的良性互动产出更多更优质的内容,可以在符合标识义务的基本要求的前提下,探索更能体现内容生成过程的标识内容或者日志技术。

六、结语

人工智能生成合成内容标识制度对于治理生成合成技术滥用、防范虚假信息传播、促进人工智能技术良性发展具有重要意义。相关主体需要理解新规关切问题的实质、关注监管要求以克服新规解释与适用上的难题,通过技术创新、完善用户协议、平台规则等手段完善私法权利义务的架构,实现定分止争、推动人工智能技术安全健康发展。本文通过对《标识办法》《标识方法》的深入解读,期待为相关主体参与人工智能生成合成内容标识活动提供更多的思考视角以及行动建议。
 
作者简介:


张全胜 合伙人
竞天公诚律师事务所
邮箱:zhang.quansheng@jingtian.com

成都办公室
张全胜律师的执业领域主要为知识产权诉讼和非诉业务,尤其擅长处理高科技企业技术秘密、专利、软件著作权等以技术为核心的知识产权诉讼、投融资并购、拟上市企业知识产权培育与管理、科技成果转化相关法律事务。张律师服务的客户主要涉及半导体/芯片、人工智能、生物医药、低空经济、通信等行业。
张全胜律师先后毕业于清华大学、北京师范大学,分别获得微机电系统工程(MEMS)专业学士学位和法律硕士学位,具有律师和专利代理师执业资格。

刘旭龙 律师
竞天公诚律师事务所
邮箱:liu.xulong@jingtian.com

刘律师毕业于德国亚琛工业大学,获得电气工程、信息技术与计算机工程专业理学学士、理学硕士学位,并持有汽车功能安全认证工程师(南德)认证。
刘律师先后在亚琛工业大学IEM、ISEA、IRT研究所、通快机床斯图加特总部研发中心、成都越凡创新公司从事汽车、加工中心、机器人相关研发工作,参与了大众汽车内燃机燃烧控制、大众汽车特种电机驱动设计、奥迪汽车永磁电机无感控制、机电一体化研发工具开发、机器人SLAM系统开发等项目。
刘律师的执业领域为网络与数据法、前沿科技法律事务,已服务多家人工智能、汽车、车联网、航空等企业。
 
********************
[1] 张佩玉、许晓耕.GB 45438——2025《网络安全技术人工智能生成合成内容标识方法》国家标准解读——访中国电子技术标准化研究院副院长范科峰[J].解读·实践,2025年05月(下)/总第679期:24-28.
[2] 严驰.数字出版视域下AIGC标识化管理的现实探问与发展路向[J].出版发行研究,2025(6):014-020.
[3] 张佩玉、许晓耕.GB 45438——2025《网络安全技术 人工智能生成合成内容标识方法》国家标准解读——访中国电子技术标准化研究院副院长 范科峰[J].解读·实践,2025年05月(下)/总第679期:24-28.
[4] 王旭.人工智能生成内容标识制度的理论展开与完善方向[J/OL]. https://link.cnki.net/urlid/11.1762.G3.20250613.1112.002
[5] 参见广州互联网法院(2024)月0192民初113号民事判决书
[6] 张佩玉、许晓耕.GB 45438——2025《网络安全技术 人工智能生成合成内容标识方法》国家标准解读——访中国电子技术标准化研究院副院长 范科峰[J].解读·实践,2025年05月(下)/总第679期:24-28.
[7] 中央网信办部署开展“清朗·整治AI技术滥用”专项行动_中央网络安全和信息化委员会办公室
请先同意《服务条款》和《隐私政策》