新闻资讯

高锐洞察 | 基于行业经验总结《生成式人工智能服务管理办法(征求意见稿)》

April 19, 2023高锐研究

2023伊始,国内外投融资圈最火的话题之一无疑是人工智能(Artificial Intelligence,AI)。特别是ChatGPT 3.5/4“火出圈“的卓越表现,让众多人士相信AI时代将就此正式开启。2023年4月11日,国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》(简称《管理办法》),并向公众征求意见。

高锐为众多人工智能行业的领先企业提供法律服务,近期我们还多次代表投资人参与了生成式人工智能产品的投融资项目。基于丰富的相关行业经验,我们重点归纳了《管理办法》中的以下要点供参考:

1.适用范围

《管理办法》将适用于研发、利用生成式人工智能产品,面向中国境内公众提供服务的实体。其中,“生成式人工智能”的定义是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

2.基本要求

人工智能产品服务应遵守法规、尊重社会公德、公序良俗,包括体现社会主义核心价值观、防止歧视性内容、避免不公平竞争、防止虚假信息传播及不侵犯他人肖像、隐私、知识产权等权益。

3.责任主体

《管理办法》明确了责任承担主体是,利用生成式人工智能产品提供聊天和文本、图像、声音生产等服务的组织和个人(以下简称“提供者”)。

具体而言,提供者需承担人工智能产品生成内容生产者的责任;涉及个人信息的,提供者需承担个人信息处理者的责任;提供者对人工智能产品的数据来源合法性负责;提供者还应采取各种具体措施,确保其人工智能产品和提供的服务遵守《管理办法》所规定的各项基本要求等。

4.安全评估和算法备案

《管理办法》确认了在生成式人工智能产品向公众提供服务前,提供者应按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》(简称《安全评估规定》)向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》(简称《算法推荐管理规定》)履行算法备案。

a安全评估:根据《安全评估规定》,互联网信息服务提供者(《管理办法》语境下的“提供者” 亦属于此类)在其具有舆论属性或社会动员能力的信息服务上线前,应自行开展安全评估,并将安全评估报告通过全国互联网安全管理服务平台,提交所在地地市级以上网信部门和公安机关。

b算法备案:根据《算法推荐管理规定》,具有舆论属性或社会动员能力的算法推荐服务提供者(《管理办法》语境下的“提供者” 亦属于此类)应当在提供服务之日起10个工作日内,通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公式内容等信息、履行算法备案手续。

根据《互联网信息服务深度合成管理规定》,互联网应用商店(App Store)等应用程序分发平台应当落实上架审核,核验深度合成类应用程序的安全评估、备案等情况,对违反有关规定的应用程序,应及时采取不予上架、警示、暂停服务或者下架等处置措施。根据我们的了解,实践中确实已经存在未完成安全评估、算法备案而被下架的生成式人工智能产品。

5.处罚措施

根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律法规,对违反《管理办法》的予以处罚。对于法律法规未明确规定的情况,由网信等有关主管部门给予警告、通报批评、责令限期改正;拒不改正或情节严重的,责令暂停或终止其利用生成式人工智能提供服务,并处1万元以上10万元以下罚款。构成违反治安管理行为的,已发给予治安管理处罚;构成犯罪的,依法追究刑事责任。

《管理办法》征求意见稿的意见反馈截止时间为2023年5月10日。我们将继续关注相关立法动态,并与您分享相关进展。

高锐为众多人工智能行业的领先企业提供法律服务,近期我们还多次代表投资人参与了生成式人工智能产品的投融资项目。有任何相关领域的疑问,欢迎随时与我们联系。