国家网信办:利用生成式人工智能生成的内容应真实准确

AI1年前 (2023)发布 aixure
27 0 0
导读:中新经纬4月11日电 据国家互联网信息办公室网站11日消息,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,(以下简称《意见》)现向社会公开征求意见。《意见》其中提到,利用生成式人工智能生成的内容应当真实准确,采取措施防止生…

中新经纬4月11日电 据国家互联网信息办公室网站11日消息,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,(以下简称《意见》)现向社会公开征求意见。《意见》其中提到,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

具体来看,《意见》共21条,其中提到,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,符合以下要求:

(一)利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。

(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

(三)尊重知识产权、商业道德,不得利用算法、数据、平台等优势实施不公平竞争。

(四)利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

(五)尊重他人合法利益,防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权。禁止非法获娶披露、利用个人信息和隐私、商业秘密。

《意见》提到,提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

用于生成式人工智能产品的预训练、优化训练数据,应满足以下要求:

(一)符合《中华人民共和国网络安全法》等法律法规的要求;

(二)不含有侵犯知识产权的内容;

(三)数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;

(四)能够保证数据的真实性、准确性、客观性、多样性;

(五)国家网信部门关于生成式人工智能服务的其他监管要求。

《意见》指出,提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。

《意见》提到,提供者应当明确并公开其服务的适用人群、场合、用途,采取适当措施防范用户过分依赖或沉迷生成内容。

《意见》还提到,提供者应当建立用户投诉接收处理机制,及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。

对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成。

《意见》明确,提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

《意见》还明确,提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容,不利用生成内容损害他人形象、名誉以及其他合法权益,不进行商业炒作、不正当营销。

用户发现生成内容不符合本办法要求时,有权向网信部门或者有关主管部门举报。(中新经纬APP)

赞助本站

© 版权声明

相关文章

暂无评论

暂无评论...