【人工智能】《人工智能生成合成内容标识办法》解析
周轶冰 段雨佳 环球律师事务所

国家互联网信息办公室、工业和信息化部、公安部和国家广播电视总局联合制定并发布的《人工智能生成合成内容标识办法》(以下简称“《标识办法》”)将于2025年9月1日起正式实施。同日开始实施的还有配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》(标准号:GB 45438-2025,以下简称“配套标准”)。《标识办法》及其配套标准的制定与实施是我国对人工智能生成内容(以下简称“AIGC”)的标记制度在实践层面的进一步明确,一方面能够对AIGC进行有效监管、保护公众的知情权,另一方面也将为AIGC平台和网络信息传播平台的责任以及全球合规等带来挑战。本文将基于《标识办法》及其配套标准的主要内容,对相关企业和个人将会受到的合规影响,及其对虚假信息、平台责任以及著作权法的潜在影响进行分析和讨论。

一、《标识办法》及其配套标准主要内容

《标识办法》主要涉及以下四个责任主体:

1.人工智能生成合成内容服务提供者:该主体提供人工智能生成合成内容的“生产工具”,根据《互联网信息服务深度合成规定》第十六条和第十七条第一款,负有标识义务。《标识办法》的第四条和第五条及其配套标准对该等义务的实际操作进行更为直观的规定和指导,包括标记的具体位置、形式(显式标识或隐式标识)、标识内容和建议的方式(数字水印)等。

该主体可以根据用户申请提供不含有“显式标识”的生成合成内容,但必须(1)通过用户协议明确用户的标识义务和使用责任,(2)依法留存提供对象信息等相关日志不少于六个月。

需要注意的是,根据《标识办法》第四条、第五条以及《互联网信息服务深度合成规定》第十六条和第十七条第一款的相关规定,隐式标识是针对所有生成内容均须无差别标识,而显式标识仅在“可能导致公众混淆或者误认的”的情况下需要标识。但《标识办法》并未对“可能导致公众混淆或者误认的”提供客观具体的判断标准。

2.提供网络信息内容传播服务的服务提供者:该主体可以理解为提供“网络传播渠道”的主体,如B站、微博、小红书等网络平台。该主体根据相关法律法规(如《互联网信息服务算法推荐管理规定》第九条)负有标识义务,须采取《标识办法》所列明的措施,规范人工智能生成合成内容的传播活动,如核验内容隐式标识并添加显著提示,以显著形式提示公众传播内容“属于生成合成内容”、“可能为生成合成内容”或“疑似生成合成内容”。该主体还应提供标识功能并提醒用户主动声明。对于“属于”、“可能为”或“疑似”生成合成内容的,该主体应当在文件元数据中添加生成合成内容属性信息即传播要素信息(如传播平台名称或编码、内容编号等)。

3.互联网应用分发平台:互联网应用程序分发平台在应用审核时,应(1)核实待上架应用程序是否提供AI生成合成服务;(2)如是,则须核验其生成合成内容标识相关材料。

4.用户:用户发布AI生成合成内容时应主动声明并使用标识功能。任何组织和个人都不得恶意删除、篡改、伪造或隐匿这些标识。

《标识办法》及其配套标准的意义在于对现行法律法规所设标识义务予以细化和规范,从而使得相关主体对其标记义务的履行方式更为明确。但目前仍存在一定不足:例如在实践中,若因标识错误导致用户权利受到侵害(详见后文“AI误判问题的产生”部分),《标识办法》尚未建立针对标记算法失误时的补救机制和平衡措施。

二、《标识办法》及其配套标准实施的潜在影响

(一)对于防范虚假信息的影响

《标识办法》及其配套标准的制定与实施有助于治理深度伪造(Deepfake)技术带来的社会风险。这类技术生成的换脸新闻、演讲等视频,对国家安全、社会稳定和公民个人权益(如名誉权、肖像权)构成了严峻挑战。而通过规范的显式标识在内容中直接提示“AI生成”或“合成”,能够在传播环节即时降低公众被误导的风险;规范化的隐式标识则可通过标记和传播信息确定来源信息和传播途径,为追踪违法内容的生成者和传播者提供技术依据。

(二)AI误判问题的产生

《标识办法》并未涉及“AI误判”导致的标识错误问题,但在实践中已有类似情况出现。例如北京互联网法院审理案件[1]中,原告声称其并未使用AI创作却被平台标记、限流。而被告在诉讼程序中未对算法决策依据和结果进行适度的解释和说明,导致其需要对“涉案账户的处理行为承担违约责任”,最终法院判决被告展开对于涉案内容的隐藏,删除在后台的违规处理记录。

该案揭示了平台难以确保为合规而采用的AI识别算法本身的准确性和公平性,以及用户在被误判后的申诉和举证困境等挑战。在海量的网络信息环境下,提供网络信息内容传播服务的服务提供者也很难通过人工审核的方法对其平台上的传播内容逐一进行标记,如何处理相关争议还需要进一步的规范和平衡。

(三)对AI生成合成内容著作权的影响

《标识办法》及其配套标准的出台与实施,有助于推动《著作权法》的适用与完善,并对未来相关制度的发展产生一定影响。但需要注意的是,标识制度的功能定位在于规范生成合成内容的“制作要素信息”和“传播要素信息”的标识与管理,其本身难以从根本上解决AI生成内容的著作权归属问题。当前,《标识办法》并未将生成过程信息纳入标识的范围,因此目前所要求的标识(无论显式标识还是隐式标识)无法作为判断AI生成内容是否具备“独创性”的依据,仅能辅助识别内容的来源与传播路径。

尽管如此,《标识办法》在提升AI应用透明度、防止AI生成内容与人类作品混淆以及维护创作秩序方面,仍发挥了积极作用。总体而言,AI标识制度在解决著作权问题上作用有限,未来仍需依托《著作权法》及相关立法,进一步明确AIGC的保护规则与适用边界。

三、《标识办法》实施后的实践

(一)202591日前生成的AIGC的标识合规化问题

随着《标识办法》及其配套标准的正式生效,法律层面上存量AIGC如何进行标识合规化(尤其是隐式标识)和技术层面上是否能够实现之间将会存在落差。《标识办法》并未对实施前的存量AIGC的标识作出明确规定,仅规定了人工智能生成合成内容服务提供者和提供网络信息内容传播服务的服务提供者在“提供服务”过程中的标记要求。从实操层面来看,对于2025年9月1日之前生成的海量AIGC进行“制作要素信息”的标记不具备现实可操作性。

因此,更合理的预期是,对于2025年9月1日之前已有的AI生成合成内容,由提供网络信息内容传播服务的服务提供者,对于传播的过程中识别到的未进行标记的生成合成内容进行属性信息的添加,这在很大程度上依赖用户的主动披露和配合。相关企业可以通过更新用户协议或发布平台公告等方式提醒用户主动声明,并在用户协议中明确说明标识规范。

(二)更新用户协议、建立向用户提供无显式标识生成合成内容的流程

根据《标识办法》的规定,人工智能生成合成内容服务提供者有必要及时更新用户协议,增加以下内容:

1.生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求;

2.在提供不含显式标识的生成合成内容的情况下,明确用户的使用责任和传播过程中的标记义务。

人工智能生成合成内容服务提供者可以建立相应流程,便于用户申请获得不含显式标识的生成合成内容。需要注意的是,该等不含显式标识的生成合成内容仍须包含隐式标识。

(三)国际统一标准与互认机制的空白

依据《伯尔尼公约》规定,作品自创作完成之时即自动受到著作权保护,成员国须对他国作品给予国民待遇。然而在AIGC领域,各国对于其著作权保护与标识规则缺乏统一的标准和实践准则。鉴于互联网传播具有跨地域性以及欧美越来越多的“跨国适用”法规,缺乏统一规则将加剧跨境业务的合规不确定性,因此在此领域的国际合作尤为重要。

总而言之,《标识办法》及其配套标准的实施将为企业的合规体系、权利与责任以及全球治理等方面带来影响,也在AI生成合成内容标记规则方面提供了更为具体的操作规范。企业在实操中需要尽快建立标识合规流程并引入相应技术工具,优化用户协议、审核和申诉机制以降低纠纷风险,同时关注监管动态与国际差异,及时调整业务策略,主动理解和运用规则、积极适应变化,从而在这轮新的产业变革中行稳致远。
 

作者简介


周轶冰 顾问律师
环球律师事务所
yibing.zhou@glo.com.cn

周轶冰律师专注于跨境知识产权、数据保护和合规、欧盟法(尤其技术和电子商务领域)以及商业争议案件。自2005起,周律师一直供职于律师事务所,为众多境内外客户提供广泛的知识产权、数据保护和合规、欧盟法律合规以及商业争议解决法律服务。周律师在知识产权的注册和管理、数据保护和合规、高科技及电商企业欧盟合规及争议解决方面具有丰富的经验。周律师的工作语言为中文、英语和法语。
 

段雨佳 律师
环球律师事务所
sherylduan@glo.com.cn

段雨佳的主要业务领域为知识产权、争议解决及公司法律事务。段雨佳律师为境内外客户提供商标、著作权、专利、域名、反不正当竞争、商业秘密等知识产权和商事争议解决法律服务,服务过的客户涵盖教育、软件、快消、医疗、旅游和娱乐传媒等行业领域。段律师的工作语言为中文、英语和日语。
 
********************
[1] 详见北京互联网法院报道《e案e审丨为何我的回答被平台判定为AI生成?法院:平台需对判定结果进行适度的解释说明》:https://mp.weixin.qq.com/s/XBCO8fYfynz5RDVWe6O30Q,最后访问于2025年8月26日15:00。
请先同意《服务条款》和《隐私政策》