首页 > 政策标准 > 《生成式人工智能服务 安全基本要求》(征求意见稿)发布

《生成式人工智能服务 安全基本要求》(征求意见稿)发布
2023-10-12 11:05:33   来源:    点击:

文档介绍
2023年10月11日,全国信息安全标准化技术委员会发布《生成式人工智能服务 安全基本要求》(征求意见稿)。文件给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等。

文件适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平,适用于提供者自行或委托第三方开展安全评估,也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

1697079446_65276096230b54e205f01.png!small?1697079447197

相关政策回顾

今年7月,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(简称《办法》)。《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。

在生成式人工智能服务规范方面,《办法》要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。规定提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取有关处置措施,保存有关记录,并向有关主管部门报告。

下载地址
分享到: