《生成式人工智能服务管理办法（征求意见稿）》出台｜mhp君悦评论

2023年4月11日，国家互联网信息办公室出台《生成式人工智能服务管理办法（征求意见稿）》（“办法草案”），向社会公开征求意见。办法草案的出台正值各个大厂对人工智能程序研究开发方兴未艾之时。在这一充满挑战的技术带动经济发展的同时，人工智能服务带来的数据安全监管也落入了政府关注的范围。在这一背景下，办法草案的出台对生成式人工智能服务领域的发展和管制作出一定程度的约束。

1. 适用范围

“生成式人工智能”是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。对于普通大众来说，其广泛地包括了当下流行的人工智能聊天程序、人工智能绘画程序、人工智能翻译程序等。任何面向中国境内公众提供服务的人工智能产品，均受到办法草案的规制，即境外公司通过互联网向中国境内的组织和个人等提供相关服务，也应遵守此规定。

2. 一般要求

办法草案罗列了生成式人工智能的产品或服务应遵守的五项基本要求：（1）体现社会主义核心价值观；（2）采取措施预防歧视；（3）尊重知识产权和商业道德；（4）生成内容真实准确；及（5）尊重他人合法利益。利用生成式人工智能产品提供服务的组织或个人应对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，并对其生成的内容负责并承担相应责任。

利用生成式人工智能产品向组织或个人提供服务前，应自行开展安全评估并向国家网信部门和公安部门申报关于具有舆论属性或社会动员能力的互联网信息服务安全评估；且应通过互联网信息服务算法备案系统履行相应的备案手续。在相关信息发生变化时，履行变更手续；在终止服务时，履行注销备案手续。如果上述服务涉及关键信息基础设施运营者或涉及向境外传输重要数据或个人信息，则在满足适当前提的情况下，还应按照《数据出境安全评估办法》的要求，完成相应的数据出境安全评估工作。

在提供生成式人工智能产品服务过程中，利用生成式人工智能产品提供服务的组织或个人应当对生成的图片、视频等内容在合理位置、区域进行显著标识；并且，应建立用户投诉机制和渠道，及时反馈并处理用户的相关请求。

值得注意的是，利用生成式人工智能产品提供服务的组织或个人应当在国家网信部门和主管部门要求的情况下，提供可以影响用户信任、选择的必要信息等底层数据。

使用生成式人工智能产品的用户应按照相关法律要求提供真实身份信息。

3. 罚则

在利用生成式人工智能产品提供服务过程中，若提供者违反了《网络安全法》、《数据安全法》、《个人信息保护法》等规定的，则可能根据该等法律受到相应的处罚。除此之外，在提供者违反办法草案要求但尚未构成违反上述法律的情况下，办法草案进行了兜底处理，包括警告、通报批评、责令限期整改、暂停或终止服务并处十万元以下罚款等的处罚。

4. 前瞻

虽然目前办法草案并未正式出台，但其核心内容与《网络安全法》、《数据安全法》、《个人信息保护法》等规定一脉相承。从实践中国家网信办历来文件的发布及正式实施情况来看，不排除办法草案会在短期内通过并正式实施。一旦正式实施，利用生成式人工智能产品向公众提供服务的组织或个人应严格遵照相关要求，从技术角度、合规角度等进一步完善自身服务全流程，以更好地维护数据安全需要。