总第90期 中国首份AIGC监管文件正式出台
《生成式人工智能服务管理暂行办法》（“管理办法”）在其征求意见稿发布的短短三个月后，于2023年7月13日正式对外公布，并将自2023年8月15日起施行。本期专题对管理办法重点内容进行解读，并对管理办法和征求意见稿进行逐条差异对比。
一、适用范围
根据管理办法第二条的规定：
利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
这意味着境外AIGC服务提供者（无论是模型层还是应用层），无论是直接向境内提供相关服务，还是通过API接口或其他形式“封装”后提供“间接”服务，都将受限于管理办法的相关规定。
对于国内厂商而言，如果使用境外大模型或相关技术作为底层的技术支持，那么无论是否获得境外AIGC服务提供商的适当授权，都将面临两个主要问题：
事实上，目前已有通过“封装”境外大模型牟利的创业者因涉嫌非法经营罪而被刑事拘留的案例，我们亦在4月的文章中提醒国内目前AIGC部分业务模式存在潜在的刑事风险。
不过，与征求意见稿不同的是，管理办法引入了一项“安全港”例外，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”。因此，如果只是内部研发或者使用相关技术，不对外提供服务，则只要获得技术提供方的合适授权以及遵守网络安全、数据和个人信息保护等相关法律法规的要求，那基本上就是安全的。这一点也与接近正式版本的欧盟《人工智能法案》（Artificial Intelligence Act, 2021/0106）中提及的例外情形类似。
二、分类分级监管规则
根据管理办法第三条的规定：
对生成式人工智能服务实行包容审慎和分类分级监管。
第十六条进一步规定：
国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。管理办法第十六条
虽然管理办法并没有进一步展开分级监管的具体规则，但预计相关内容会在即将出台的《人工智能法》中做出规定。
在欧盟的《人工智能法案》中，AIGC技术根据风险评估可分为四类，即“不可接受的风险”（Unacceptable Risk）、“高风险”（High Risk）、“有限风险”（Limited Risk）以及“低风险”（Low and Minimal Risk）。不同风险对应不同的监管措施，如被评估为“不可接受的风险”的人工智能技术将被严格禁止并附加高额处罚，被评估为“高风险”的人工智能技术将遵守完整的全流程风险管理措施并接受全生命周期的评估，被评估为“有限风险”的人工智能技术需要履行公开透明的义务，而对于低风险技术则不施加任何义务。在我国分类分级监管具体规则以及《人工智能法》出台之前，建议AIGC从业者可以参考欧盟标准进行风险评估并提前做好未来的合规准备。
三、服务提供者的义务和责任
在征求意见稿中，AIGC服务提供者被要求承担一项极其高的义务，即“保证数据的真实性、准确性、客观性和多样性”。考虑到AIGC技术开发的实际情况，管理办法做出了合理化的修改，即“采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”。管理办法亦不再强制要求服务提供者对用户实行实名制。此外，征求意见稿曾要求服务提供者有义务在三个月内通过模型优化训练等方式防止再次生成不当内容，但考虑到AIGC产生不当内容的天然潜在持续性和不确定性，管理办法删除了该等义务，仅要求服务提供者及时优化模型并向主管部门报告。最后，在罚则部分，删除了“终止提供服务并处一万元以上十万元以下罚款”的规定。
不过，管理办法亦增加了部分新的义务，比如服务提供者应与用户签订服务协议明确双方权利义务，对用户违法活动的监督增加了“警示”、“限制功能”以及“保存记录”和“报告”的义务等。但该等新增义务均较为合理，不会显著增加服务提供者的额外负担。
四、安全评估和算法备案
征求意见稿曾无差别的要求AIGC服务提供者在对外提供服务前，按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案手续。管理办法做出了显著的修改，明确只有“提供具有舆论属性或者社会动员能力的生成式人工智能服务”的服务提供者，才需开展安全评估和算法备案。虽然缩小了适用范围，但管理办法并没有进一步明确“具有舆论属性或者社会动员能力的生成式人工智能服务”的认定标准。从合理评估的角度来判断，结合《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，新闻、社交、直播、教育、写作、聊天等AIGC相关技术被认定的可能性比较高。
五、境外服务提供者和外商投资
包括OpenAI在内的AIGC行业的境外厂商，无疑处于技术领先地位，境外投资者在该领域也更为活跃。管理办法首次原则性明确，“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。”结合上述第一条的适用范围相关规定，对于“嵌套”、“封装”类型的境内服务提供者，将面临底层境外技术支持随时中断的风险。此外，管理办法首次指出，“外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定”。考虑到目前AIGC相关外商投资的规定尚不明确，建议持续关注相关立法动态，且预计根据未来出台的分类分级监管规则，会适用不同的外商投资限制规定。
一、监管原则是什么？
在4月的征求意见稿中，国家互联网信息办公室就已经提出了鼓励生成式人工智能行业发展的相关内容，本次正式公布版更是进一步明确监管的整体原则除了单纯的鼓励以外，还明确强调了安全与依法治理，并且通过规定分类分级监管的方式实现这一原则的落地。
伴随2023年上半年欧盟《人工智能法案》不断更新立法进程，其中对于人工智能分类分级的监管思路也得到了行业的认可。管理办法中吸收了欧盟《人工智能法案》的分类分级的监管措施，这一举措将大大降低行业对监管过严导致发展受阻的疑虑。
针对分类监管，目前管理办法中可以明确的是，利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动的，未来将会由相关监管部门，包括国家互联网信息办公室、国家广播电视总局等相关主管部门另行规定。
但目前针对分级监管，尚未明确具体的分级标准，需要等待监管部门的进一步明确。
二、适用主体都是谁？
管理办法中明确规定，生成式人工智能服务提供者是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
可以看出管理办法并未区分技术支持者和服务提供者，但明确了目前多是通过可编程接口等方式向企业端客户提供深度合成算法服务的主体同样适用管理办法。
三、监管治理制度有哪些？
管理办法规定生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，保证使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性等，以及针对标注数据的合法合规、质量管理。
其中，训练数据和基础模型具有合法来源的规定，需要明确的是开源的数据库、基础模型是否属于具有合法来源的，结合管理办法第20条的规定，使用来源于境外向境内提供服务的，国家网信办应当通知有关机构采取技术措施和其他必要措施予以处置。这意味着可以使用境外数据库、基础模型，但是应当保证这些数据、模型都是符合管理办法以及其他中国相关法律法规要求的，这个服务提供者带来了严格的审核责任。
同时针对训练数据中的知识产权、个人信息的合法合规；数据质量的真实准确等要求同样给服务提供者带来了严格的审核责任，也是服务提供者应当加强内部合规技术措施和制度管理的重点。
四、服务规范监管重点都是什么？
管理办法中针对生成式人工智能服务的服务规范规定了防沉迷或者防止过度依赖；对Prompt的保护义务；针对生成内容的标识义务；服务安全稳定；违反内容的处置机制（并且删除了征求意见稿中要求的发现违法信息后3个月内对算法进行整改的要求）；快捷的投诉机制。
可以看出管理办法中的服务规范监管要求相较征求意见稿更为与行业贴近，具有较高的可执行性。
五、监管机构有哪几个？
管理办法中联合发布的七个部门都将会是生成式人工智能的监管机构，因此生成式人工智能涉及到该七个监管机构相应职责的内容，相关监管部门可以依据管理办法进行监管。
六、安全评估与算法备案的要求是什么？
管理办法第17条中保留了征求意见稿中的安全评估与算法备案的要求，但其完成时间修订为依据相关规定进行安全评估与算法备案，也就是不再强行要求两者均在服务上线前完成。
根据安全评估的相关规定（《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》），应用上线前应当完成相应的安全评估，并且目前部分省份网信办已经开始基于此进行相关安全评估工作。因此相关企业应当尽快评估其生成式人工智能服务是否为“新技术新应用”，需要完成相关安全评估。
算法备案则继续按照《互联网信息服务深度合成管理规定》的要求，提供服务之日起十个工作日内完成相关算法备案手续。因此相关企业仅当尽快评估是否需要完成算法工作手续，以及具体备案角色（服务提供者或者技术提供者）。