国家网信办联合国家发改委、教育部、科技部、工信部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（下称《办法》），自2023年8月15日起施行。
近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。
国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。
《
办法
》
鼓励技术发展创新
，
强调
安全
与
依法
管理
《南方日报》评论称，就传播虚假信息来看，人们已经越来越难以确定一项内容到底出自真实的人类还是人工智能。生成式人工智能的训练数据大都源于互联网，很有可能把一些违法信息、争议性观点等引用过来，给用户植入偏见和负面刻板印象。
对此，《办法》从不同角度作出系统性回应。比如在服务规范环节，规定提供者应当对生成内容进行标识，可以有效避免以假乱真；在开展预训练、优化训练等数据处理活动环节，规定应使用具有合法来源的数据和基础模型，不得侵害知识生产，应取得个人同意等，有利于打消用户顾虑；而在提供和使用环节，明确规定应当遵守法律、行政法规，尊重社会公德和伦理道德，包括尊重知识产权、商业道德，尊重他人合法权益，采取有效措施防止歧视等，有助于防止扰乱网络秩序的行为发生。
此外，《南方日报》指出，生成式人工智能关系到生产力的提升，是国际竞争的热点所在。因此，关键在于不断探索并完善与创新发展相适应的科学监管方式，在创新发展与风险规避之间寻求平衡。《办法》在明确指出防范风险的同时，也提出实行包容审慎和分类分级监管，鼓励行业的创新发展。比如明确鼓励在各行业、各领域推广应用，鼓励在算法、框架、芯片及配套软件平台等基础技术上自主创新，推动基础设施和公共训练数据资源平台建设等，体现的正是“发展和安全并重、促进创新和依法治理相结合”的原则。
《互联网法律评论》特约作者时萧楠律师指出，在4月的征求意见稿中，国家互联网信息办公室就已经提出了鼓励生成式人工智能行业发展的相关内容，本次正式公布版更是进一步明确监管的整体原则除了单纯的鼓励以外，还明确强调了安全与依法治理，并且通过规定分类分级监管的方式实现这一原则的落地，除此之外，还提出了针对分类监管。
她表示，对于公司内部/自然人使用人工智能技术是否存在相应的监管合规要求一直是市场经常探讨的内容，《办法》明确规定，研发和应用生成式人工智能技术，只要未向境内公众提供服务的，就无需适用《办法》。但纵观《办法》，监管将对应用生成式人工智能服务的使用者的管理义务赋予了服务提供者，例如《办法》第10条、第11条、第12条中均规定了服务提供者对使用者的管理，如果使用者进行违法行为是因为服务提供者未按照规定进行管理，监管可以追究其法律责任。需要注意的是，在利用人工智能服务生成虚假信息进行诈骗等行为已经开始频频出现的背景下，使用者如利用人工智能服务进行违法犯罪行为将被直接追究法律责任。
汉坤律师事务所的汉坤表示，与《征求意见稿》相比，《办法》体现出了对尚不成熟的生成式人工智能服务更多的包容，更侧重鼓励技术发展创新，在原理和制度层面更好地统筹兼顾了发展与安全。在适用范围上吸纳了公众意见，明确将未向境内公众提供服务的生成式人工智能技术的研发、应用排除出适用范围。在监管路径上显示了包容审慎、分类分级监管的路径，强调统筹协调多部门监管。在模型训练上《办法》吸取了业界的反馈意见，更充分考虑了当前训练数据质量、生成内容可靠性、准确性等方面的技术障碍与局限，适度放宽了生成式人工智能数据训练、模型应用和优化的具体合规要求等。
他进一步指出，《办法》成稿体现了产业界和公众对《征求意见稿》提出的许多建议，更充分的考虑当前生成式人工智能的技术局限，在明确安全规范“红线”的基础上，基于“审慎包容”的原则适度放松了生成式人工智能从研发、模型训练到应用、优化各阶段的合规要求，体现出了鼓励新技术发展、应用的政策导向。
国盛证券研报指出，《办法》出台利好生成式人工智能健康发展。在监管方式上，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。并且在监管范围上《办法》进一步细化，在备案要求方面，防沉迷方面，和服务规范方面均细化了监管范围。在促进发展具体措施上更是具体详细的覆盖。
政策落地利好AI产业发展
多家券商认为，政策落地全面利好AI产业的发展。一方面明确了监管主体和备案等监管措施，有望拉动AI 安全监管的产品和需求；另一方面实现发展和安全并重，算力、算法、应用类产业有望迈入快车道。
国盛证券表示，管理办法落地，大模型正式落地在即，国内AI发展即将进入应用落地阶段。本次《办法》明确社会责任与法律责任，利好AI在C端的落地：明确生成式人工智能开发者、供应商和使用者的社会责任与法律责任，可以保证在生成式人工智能系统出现错误、造成损害或出现侵权时能够进行合法追责，有利于为生成式AI在C端的进一步落地，提供可靠的法律依据，大模型C端合规未来可期。
开源证券指出，推动生成式人工智能基础设施建设，关注AI时代的“卖铲人”。并且认为《办法》提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，推动生成式人工智能基础设施和公共训练数据资源平台建设。
光大证券表示生成式AI服务管理暂行办法重磅发布，将促进AI应用落地及大模型层厂商发展。随着《办法》出台及正式实施，商业化产品应用落地加速；其次，国产大模型百舸争流，作为价值链中最核心部分，建议中长线持续关注。
广发证券表示，《办法》整体符合预期，产业爆发初期为行业规范发展提供指引。一方面，《办法》的正式落地为行业提供了明确的监管依据，为我国生成式AI 产业发展形成政策支撑。另一方面，预计《办法》短期从情绪面形成提振，中期仍需回归产品兑现度，密切关注后续产品落地和上线情况。
相关文章
