《中华人民共和国科学技术进步法》于2021年12月24日发布修订，并于2022年1月1日起正式施行，该法规明确提出国家建立科技伦理委员会，完善科技伦理制度规范，加强科技伦理教育和研究，健全审查、评估、监管体系。科学技术研究开发机构、高等学校、企业事业单位等应当履行科技伦理管理主体责任，按照国家有关规定建立健全科技伦理审查机制，对科学技术活动开展科技伦理审查。

为完善《中华人民共和国科学技术进步法》的上述制度构建，2022年3月20日正式发布《关于加强科技伦理治理的意见》，该文件确立了我国科技伦理治理的指导思想，提出了加强科技伦理治理的五项基本要求——伦理先行、依法依规、敏捷治理、立足国情、开放合作；以及开展科技活动应当遵循的五项科技伦理原则——增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明。同时，该文件还为健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管、开展科技伦理教育和宣传提出了纲领性指导。

A. 地方试点

自《关于加强科技伦理治理的意见》发布施行后，各地方加快建设科技伦理治理体系，规范管辖地科技活动科技伦理审查工作，例如：

2022年12月，黑龙江省科学技术厅印发《黑龙江省科技伦理审查中心备案管理办法（试行）》。

2023年2月，湖南省科技厅联合教育、工信等11个部门印发《湖南省区域科技伦理审查中心建设方案》，正式成立湖南省区域科技伦理审查中心。

2023年2月，四川省科技厅、省委宣传部、经济和信息化厅、教育厅、农业农村厅、省卫生健康委、省科协等14家部门和单位联合印发《关于健全科技伦理治理机制有效防控科技伦理风险的实施方案》。

2023年3月，海南省科学技术厅印发了《关于成立海南省科技伦理委员会的通知》，省科技厅、省委宣传部，省卫健委等十二个部门组成海南省科技伦理委员会。

2023年3月，福建省科技厅、卫健委、教育厅、工信厅、农业农村厅等九部门联合印发《关于贯彻落实加强科技伦理治理意见的任务分工》。

B. 企业试点

部分地区科技部门开展了科技伦理审查机构登记和科技伦理审查试点单位申报的工作，例如湖南省科技厅于2023年2月发布了《关于开展科技伦理审查机构登记和科技伦理审查试点单位申报工作的通知》。湖南省科技伦理审查中心于2023年9月前往申报试点单位——南华生物医药股份有限公司现场对企业科研能力、科技伦理委员会建设、科技伦理审查制度建设等条件进行审核。

C. 先行领域

伦理审查制度的最初应用领域是涉及人类的生物医学科研领域，例如2016年12月1日施行的《涉及人的生物医学研究伦理审查办法》以及2023年2月18日施行的《涉及人的生命科学和医学研究伦理审查办法》均聚焦于该等研究领域。

而后，一些其他行业也开始对科技活动进行伦理审查。并根据实践经验总结、颁布了一系列标准。例如，中国人民银行于2022年10月9日发布了《金融领域科技伦理指引（JR/T 0258-2022）》，该指引规定了在金融领域开展科技活动需要遵循的守正创新、数据安全、包容普惠、公开透明、公平竞争、风险防控和绿色低碳等价值理念和行为规范，用于指导金融领域从业机构开展科技伦理治理工作，预防和化解金融领域科技活动伦理风险。

《审查办法》重点针对可能响人的合法权益和动物福利以及对生命健康、生态环境、公共秩序、可持续发展等带来伦理风险的科技活动。根据《审查办法》，开展以下科技活动须进行科技伦理审查：

（1） 涉及以人为研究参与者的科技活动，包括以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动；

（2） 涉及实验动物的科技活动；

（3） 不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动；

（4） 依据法律、行政法规和国家有关规定需进行科技伦理审查的其他科技活动。

除1-3项列举的科技活动外，其中，第4项提及“依据法律、行政法规和国家有关规定”需进行科技伦理审查的其他科技活动，例如，根据《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，应用深度合成等算法推荐技术提供互联网信息服务的活动。

《审查办法》明确将对可能产生较大伦理风险挑战的新兴科技活动实施清单管理，清单上列举的科技活动须进行双重审查，即通过单位初步审查后还须报请所在地方或相关行业主管部门组织开展专家复核，并在获得伦理审查批准后在国家科技伦理管理信息登记平台进行登记，具体请见下文第五和第七部分。

《审查办法》公布了需要开展专家复核的伦理活动清单：

（1） 对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究。

（2） 将人干细胞导入动物胚胎或胎儿并进一步在动物子宫中孕育成个体的相关研究。

（3） 改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质或遗传规律的基础研究。

（4） 侵入式脑机接口用于神经、精神类疾病治疗的临床研究。

（5） 对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发。

（6） 具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。

（7） 面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。

与《征求意见稿》相比，正式稿明确清单将会根据工作需要动态调整，由科技部发布。这也体现了对于科技活动采取“敏捷治理”的监管思路，在鼓励技术创新的同时可以通过调整清单方式可以快速、灵活地对新生或变化的风险进行应对。

根据科技部有关负责人介绍，纳入清单管理的科技活动主要以下三个因素：（1）是科学技术自身的伦理风险，包括科学知识和安全信息的充分程度，技术的成熟度、操作难易程度、安全性、有效性和可控性；（2）是科技活动伦理风险发生的可能性、风险种类、严重程度、影响范围等；（3）是科技活动的必要合理性、目标人群或目标应用场景等。

根据《审查办法》，高等学校、科研机构、医疗卫生机构、企业等是科技伦理审查管理的责任主体。《审查办法》明确要求从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。对于其他依照《审查办法》需要开展科技伦理审查的单位可根据实际情况决定是否设立。但何为“科技伦理敏感领域”，还有待监管进一步明确。

《审查办法》要求单位必须为科技伦理（审查）委员会提供人力、场所和经费支持，保障其可以独立开展伦理审查工作《审查办法》明确科技伦理（审查）委员会的职责，并对组成结构做了非常严格的要求：

设立科技伦理（审查）委员会的单位主体由本单位的科技伦理（审查）委员来负责开展科技伦理审查工作，而对于未设立科技伦理（审查）委员会但从事科技活动有科技伦理审查需求的单位或者虽然设立了但无法胜任审查工作的，按照《审查办法》须书面委托其他满足要求的科技伦理（审查）委员会开展伦理审查，通常应委托同级别以上科技伦理（审查）委员会。

实施清单管理的科技活动，在通过本单位的初步审查后，需要报请所在地方或相关行业主管部门，由地方或相关行业主管部门组织成立的复核专家组开展复核。

根据《审查办法》，单位开展科技活动须进行科技伦理风险评估，经评估属于《审查办法》所列需开展审查的科技活动范围的，由科技活动负责人向科技伦理（审查）委员会提交申请材料，申请科技伦理审查，技伦理（审查）委员会根据申请材料决定是否受理并通知申请人。

根据适用条件的不同，科技伦理审查程序分为以下四种：

（点击查看大图）

（点击查看大图）

根据《审查办法》，科技伦理（审查）委员会应从科技伦理原则，科技人员资质、研究基础和设施条件、科技活动的科学价值和社会价值、风险受益合理性、伦理风险控制方案和应急预案科学恰当、可操作性以及所制定利益冲突申明和管理方案和理性等方面对拟开展的科技活动开展审查。

同时，《审查办法》还根据不同科技活动的特点和监管要求，分别对以人为研究参与者、涉及实验动物，涉及数据和算法的科技活动的明确审查重点。例如，针对涉及数据和算法的科技活动，《审查办法》要求审查：

（1）数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等符合国家数据安全和个人信息保护等有关规定，数据安全风险监测及应急处理方案得当；（2）算法和系统研发符合公平算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则，符合国家有关要求，伦理风险评估审核和应急处置方案合理，用户权益保护措施全面得当。

根据《审查办法》，地方、相关行业主管部门负责本地方、本系统科技伦理审查的监督管理工作。除了对可能产生较大伦理风险挑战的新兴科技活动实施专家复核清单管理外，《审查办法》还将建立国家科技伦理管理信息登记平台（“平台”）以“登记和提交报告”为抓手，为地方、相关行业主管部门加强对科技伦理监管提供支撑。

根据《审查办法》，设立科技伦理（审查）委员会以及开展清单管理活动的单位须履行以下登记和报告义务：

（1） 单位应在设立科技伦理（审查）委员会后30日内，通过平台进行登记。登记内容包括科技伦理（审查）委员会组成、章程、工作制度等。

（2） 单位应在纳入清单管理的科技活动获得伦理审查批准后30日内，通过平台进行登记。登记内容包括科技活动实施方案、伦理审查与复核情况等。

（3） 单位应于每年3月31日前，向平台提交上一年度科技伦理（审查）委员会工作报告、纳入清单管理的科技活动实施情况报告等。

《审查办法》进一步明确《关于加强科技伦理治理的意见》关于高等学校、科研机构、医疗卫生机构、企业等是科技伦理违规行为单位内部调查处理的第一责任主体的规定，要求单位及时主动调查科技伦理违规行为，依法依规追责问责。单位及其负责人涉嫌科技伦理违规行为的，由上级主管部门调查处理单位或其负责人涉嫌科技伦理违规行为的，由其上级主管部门调查处理，没有上级主管部门的，由其所在地的省级科技行政管理部门负责组织调查处理。

根据《审查办法》，科技活动承担单位、科技人员、科技伦理（审查）委员会、委员违反办法规定的，将由有管辖权的机构依据法律、行政法规和相关规定给予处罚或者处理；造成财产损失或者其他损害的，依法承担民事责任；构成犯罪的，依法追究刑事责任。

《科学技术进步法》是《审查办法》的上位法，根据《科学技术进步法》，进行违背科技伦理的科学技术研究开发和应用活动，或从事科学技术活动违反科学技术活动管理规范的，将可能面临以下处罚：由有关主管部门责令限期改正，并可以追回有关财政性资金，给予警告或者通报批评，暂停拨款、终止或者撤销相关财政性资金支持的科学技术活动；情节严重的，由有关主管部门向社会公布其违法行为，依法给予行政处罚和处分，禁止一定期限内承担或者参与财政性资金支持的科学技术活动、申请相关科学技术活动行政许可、取消一定期限内财政性资金支持的科学技术活动管理资格；对直接负责的主管人员和其他直接责任人员依法给予行政处罚和处分等。

根据《审查办法》规定和科技部有关负责人解答，下一步相关行业主管部门和地方按照职责权限和隶属关系建立本系统、本地方科技伦理审查的监督管理机制，制定和修订本系统本地方的科技伦理审查办法、细则等制度规范，建立健全对纳入清单管理的科技活动的专家复核机制。

对于人工智能行业，一方面，监管机构也在逐渐重视人工智能应用所带来的伦理风险，例如近年来，证券监管机构和交易所对拟上市的人工智能企业都涉及到关于科技伦理方面的审核和问询，要求披露和说明公司在保证人工智能技术可控、符合伦理规范的措施，说明分析公司在技术和业务开展过程所面临的伦理风险等。

另一方面，在《关于加强科技伦理治理的意见》和《征求意见稿》颁布后，有关地方和行业主管部门也开始着手落实部署。例如，广东、海南、云南、辽宁、湖南等多省陆续颁布科技伦理治理方案、建立科技伦理审查备案中心，具体落实科技伦理审查和监管。2023年5月，工信部正式成立工信部科技伦理委员会、工业和信息化领域科技伦理专家委员会。工信部科技伦理委员会负责统筹规范和指导协调工业和信息化领域科技伦理治理工作。工业和信息化领域科技伦理专家委员会在科技伦理委员会的领导下开展工作，提供决策咨询支撑，开展科技伦理审查专家复核。专家委员会覆盖政策、技术、管理、伦理、法律等多学科专家，秘书处设在中国信息通信研究院。此外，工信部还将组织制定重点领域科技伦理审查规范和标准，我们可以期待未来对于人工智能行业的科技伦理审查会有更细化的规范和标准出台。

随着《审查办法》的正式颁布，科技伦理审查制度的“另一只靴子”终于落地，从事数据、算法、人工智能等新技术企业在办法年底生效实施前，应对本单位开展的科技活动进行风险评估，识别是否属于《审查办法》的适用范围，并做好以下合规应对：

（1） 根据《审查办法》的规定和本单位实际情况设立科技伦理（审查）委员会，并建立科技伦理（审查）委员会的管理制度和工作规范；制定章程，建立审查、监督、保密管理、档案管理等制度规范、工作规程和利益冲突管理机制；建立科技伦理应急审查制度。

（2） 开展对委员的科技伦理审查业务培训和科技人员的科技伦理知识培训。

（3） 参考本行业优秀实践，对本单位的科技活动开展科技伦理审查，留存相关科技活动审查申请和审查决定材料，并进行跟踪审查。

（4） 密切关注国家科技伦理管理信息登记平台、地方和行业主管部门对于本系统本地方的科技伦理审查办法、细则等制度规范、专家复核机制的进一步落地，并及时作出合规响应。

办法明确从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理委员会（第4条）；单位未设立科技伦理委员会的，应书面委托其他满足要求的科技伦理委员会开展伦理审查（第13条）。同时，办法规定多个单位合作开展科技活动的，牵头单位可根据实际情况建立科技伦理审查协作与结果互认机制（第21条）；探索建立专业性、区域性科技伦理审查中心（第4条）；国家推动建立科技伦理（审查）委员会认证机制，鼓励相关单位开展科技伦理审查认证（第41条）；科技部负责建设国家科技伦理管理信息登记平台，为地方、相关行业主管部门加强科技伦理监管提供相应支撑；单位设立科技伦理（审查）委员会应通过国家科技伦理管理信息登记平台进行登记（第42条、43条）等。

实践中，除创新主体设立本单位科技伦理委员会外，国务院相关部门及多个省份，亦分别建立或者筹建科技伦理委员会，以统筹该系统或地方的科技伦理工作。如工业和信息化部成立了工信部科技伦理委员会和科技伦理专家委员会，负责指导协调工业和信息化领域科技伦理治理工作。再如湖南省科技伦理治理委员会由省科技厅、省教育厅、省卫生健康委等11个委员单位组成，其秘书处设在省科技厅，专家委员会下辖生物科学、医学、人工智能和实验动物4个领域。

值得一提，区域科技伦理审查中心将在科技伦理治理中发挥重要作用。如湖南省区域科技伦理审查中心作为全国首家省级区域科技伦理中心，其对外公布的职责即包括“引导高等学校、科研机构、医疗卫生机构和企业设立科技伦理（审查）委员会并规范运行”。四川省发布的科技伦理治理文件中，也明确提出”支持成都、绵阳等条件成熟的市（州）探索建立专业性、区域性科技伦理审查中心，推动实现科技伦理审查结果互认。”

我们认为，未来我国各类各级科技伦理委员会的体系及互动关系如下：

（点击查看大图）

根据《关于加强科技伦理治理的意见》的精神，上述范围和清单将根据工作需要动态调整。

本次《审查办法》第二条的规定，如下科技活动需要依据该办法进行科技伦理审查：

（1）涉及以人为研究参与者的科技活动，包括以人为测试、调查、观察等研究活动的对象，以及利用人类生物样本、个人信息数据等的科技活动；

（2）涉及实验动物的科技活动；

（3）不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动；

（4）依据法律、行政法规和国家有关规定需进行科技伦理审查的其他科技活动。

因此需要依据《审查办法》进行科技伦理审查的AIGC企业包括：

（1）深度合成服务提供者

根据2023年1月10日生效的《互联网信息服务深度合成管理规定》，深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。

因此基于《互联网信息服务深度合成管理规定》，深度合成服务提供者应当依据《审查办法》落实科技伦理审查。

（2）研发的算法模型涉及个人信息数据的

（3）研发的算法模型对公共秩序等可能产生影响的

因此，针对AIGC企业，除了明确的深度合成服务提供者需要进行相关科技活动的科技伦理审查外，算法模型如果涉及个人信息数据、或者对公共秩序等可能产生影响的技术服务提供者，同样需要进行科技伦理审查。

（1）设立科技伦理（审查）委员会

《审查办法》规定，企业是本单位科技伦理审查管理的责任主体，从事包括人工智能等科技活动的企业，研究内容涉及科技伦理敏感领域的，应当设立科技伦理（审查）委员会。

虽然《审查办法》明确规定人工智能等科技活动的企业，如果涉及科技伦理敏感领域的，应当设立科技伦理（审查）委员会，其他有科技伦理审查需求的单位可根据实际情况设立科技伦理委员会。但针对不属于应当设立而未设立科技伦理（审查）委员会的企业如进行科技活动的，应书面委托其他满足要求的科技伦理（审查）委员会开展伦理审查。

因此AIGC企业除符合《审查办法》应当设立科技伦理（审查）委员会外，如果有科技伦理审查需求可以自行设立科技伦理（审查）委员会，而在没有设立科技伦理（审查）委员会而需要进行科技伦理审查时，需要书面委托其他满足要求的科技伦理（审查）委员会开展伦理审查。

（2）科技伦理（审查）委员会依据《审查办法》设立、登记

企业如设立科技伦理（审查）委员会，需要依据《审查办法》搭建科技伦理审查委员会机制（聘请外部专家、筛选委员、完善配套制度，如制定章程，建立健全审查、监督、保密管理、档案管理等制度规范和工作规程，健全和利益冲突管理机制）。

并且，企业应当在设立科技伦理（审查）委员会后的30日内，通过国家科技伦理管理信息登记平台进行登记。

（3）科技伦理（审查）委员会依据《审查办法》进行审查

科技伦理（审查）委员会应当依据《审查办法》进行科技伦理风险评估，并且区分不同的评估事项进行审查以及进行跟踪审查。根据不同的评估事项适用简易程序、一般程序或者专家复核程序进行审查。

简易程序和一般程序由企业的科技伦理（审查）委员会依据《审查办法》以及其章程进行，专家复核程序由企业报请所在地方或相关行业主管部门组织开展。

● 科技伦理审查一般程序的触发：

根据前述1需要完成科技伦理审查的AIGC企业部分的分析，AIGC企业，特别是深度合成服务提供者至少将会触发科技伦理相关的一般程序。

● 科技伦理审查专家复核程序的触发：

目前《审查办法》附件中明确“具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。”需要开展专家复核，也就是依据《审查办法》在科技伦理（审查）委员会完成初步审查后，报请相关部门组织专家进行复核，企业的科技伦理（审查）委员会依据专家复核意见进行审查决定。

但结合目前网信办对“具有舆论属性与社会动员能力”的宽泛理解，生成式AIGC产品，尤其是大模型公司或大模型应用层相关产品，除了触发科技伦理审查的一般流程以外，还可能基于这一条，面临更为严格的专家复核程序。但是，是否适用仍需考虑是否同时满足《审查办法》附件提到的“舆论属性”+“社会动员能力”+“社会意识引导能力的”三个要件，但三者的含义，判断标准尚需进一步明确。

（4）审查后的科技活动完成登记

科技活动负责人在完成内部申请、科技伦理审查委员会受理和初审通过后，企业应在纳入清单管理的科技活动获得伦理审查批准后的30日内，通过国家科技伦理管理信息登记平台进行登记。

（5）跟踪审查

企业的科技伦理（审查）委员会针对已经审查批准的科技活动应当开展伦理跟踪审查，跟踪审查主要包括科技活动实施方案执行情况及调整情况等，同时规定间隔一般不超过12个月。

值得注意的是，《审查办法》针对简易程序，科技伦理（审查）委员会可以自行根据情况调整跟踪审查频度，而专家复核程序则进一步规定了不超过6个月的间隔期，并且需要进行动态管理。

（6）年度报告

企业应于每年3月31日前，向国家科技伦理管理信息登记平台提交上一年度科技伦理（审查）委员会工作报告、纳入清单管理的科技活动实施情况报告等。

目前中国涉及到人工智能的主要法律文件：

 

因此可以看出，目前已有的人工智能相关法律文件，主要还是以向第三方提供服务作为监管前提，但《审查办法》将监管范围向前扩展到研发阶段的科技活动，因此从事AIGC，特别时研发的企业，将需要在自研发阶段就开始进行相关的合规问题，并且搭建相应的科技伦理审查制度，以避免适用《审查办法》受到处罚。

大模型在研发阶段，将收集和训练大量个人信息数据用于数据训练，或者虽然不涉及个人信息数据，但是可能基于其应用层的影响，对公共秩序、可持续发展、生命健康带来伦理风险挑战，即使不属于深度合成服务提供者，但属于《审查办法》第二条明确的四项应该开展科技伦理审查的要件，为此需要特别注意，建议尽快依照《审查办法》完成科技伦理（审查）委员会的设立，并且进行相关科技伦理审查，完成大模型公司科技伦理审查委员会设立及 “纳入清单管理的”科技活动开展登记手续。

科技伦理审查（包括登记以及专家复核意见）与算法备案、安全评估并不存在相互的前置审批关系，但在算法备案、安全评估中并不被强调的“研发阶段”，在科技伦理审查相关流程将受到特别的重视，但监管部门仍以企业自主完成审查+事后登记+关键活动专家复核的方式进行监管。因此，相关企业需要结合自身研发情况进行应对。

对于跟踪审查，《审查办法》规定一般程序需12个月开展一次，专家复核程序6个月一次，《征求意见稿》规定的则是2年，可见科技更新速度快，为此监管要求加强信息更新。

同时，在科技伦理风险发生重大变化时，应按照《审查办法》第二十条规定重新开展伦理审查并申请和专家复核。一旦需要重新审查，对当前科技活动是继续实施，还是暂停实施，由科技伦理委员会进行确定。

《审查办法》提示触发科技伦理审查的项目，审查内容涉及个人隐私数据、数据生命周期处理活动，以及算法设计、实现、应用活动等，均需要完成对应合法合规的审查。特别是涉及数据和算法的科技活动的，需要审查“数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等符合国家数据安全和个人信息保护等有关规定，数据安全风险监测及应急处理方案得当；算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则，符合国家有关要求，伦理风险评估审核和应急处置方案合理，用户权益保护措施全面得当”等要点，体现了国家在伦理风险治理上的全面性。

（点击查看大图）

办法的发布标志着我国科技伦理监管正式落地。各类生命科学、医学、人工智能领域的创新主体首当其冲，宜迅速对照我国科技伦理监管架构，建立本单位科研伦理审查和合规管理体系。