专家解读｜适应生成式人工智能特点 营造安全有序法治环境-九游会登录j9入口

　　以chatgpt为代表的现象级互联网应用的出现，掀起了人工智能领域新一轮技术浪潮。作为新一代信息技术，生成式人工智能通过对人类“脑力”的无限延伸，赋予人们对于追求美好生活的更大想象空间。与此同时，生成式人工智能被滥用带来的数据泄露、虚假信息等风险挑战也纷至沓来，各国陆续推出或完善针对生成式人工智能的监管方案。《生成式人工智能服务管理暂行办法》（以下简称《办法》），是对我国人工智能法律体系与算法治理体系的进一步完善。《办法》与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》在治理思路上一脉相承，在治理制度方面创新推进，坚持从生成式人工智能技术特点出发，提出了一系列针对性的发展与治理措施。　　

　　一、契合新技术新特性，有针对性地进行制度设计

　　与《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》相比，《办法》更加关注生成式人工智能技术本身，主要与生成式人工智能技术自身特性有关：一是生成式人工智能应用场景具有通用性。传统算法应用的处理模式与应用场景相对固定，有较为明确的服务边界，但生成式人工智能应用场景更为丰富，如chatgpt产品几乎可以处理自然语言领域的所有任务，如果延续针对固定用途信息服务的管理思路，将难以充分切合实际监管需求。二是生成式人工智能具有价值观属性。生成式人工智能模型经过训练后，对一些概念具备了较为稳定的“认知”，围绕相关概念的生成内容往往表现出惊人的一致性。一旦模型在训练过程中引入偏见歧视等有害信息，在模型实际应用中很可能呈现放大化输出。三是生成式人工智能具备可引导性。生成式人工智能模型在原有的人工智能“预训练—微调”范式上，增加了“对齐”的训练环节。在提升模型能力方面，通过在生成式人工智能模型训练过程中调整模型输出概率分布不断趋近人类偏好，但同时也存在被不法分子恶意利用的风险。

　　《办法》充分结合生成式人工智能特性，提出相应管理要求：一是在生成内容上，《办法》要求利用生成式人工智能生成的内容应当“坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容”。二是在算法设计等过程上，《办法》要求提供者在“算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止出现民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”，以及对尊重知识产权、商业道德和他人合法权益等方面提出了保护原则。从这些要求看，《办法》基本涵盖了生成式人工智能服务在应用过程中可能暴露出来的安全及伦理问题。三是在监管方式上，除了安全评估、算法备案、标识等制度外，还提出国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。　　

　　二、聚焦关键环节，高度重视性能与安全的平衡　　

　　《办法》在技术监管方面更为聚焦和深入，以生成式人工智能模型训练生产中的“对齐”这一关键技术环节为例，在传统人工智能模型“预训练—微调”生成范式中，预训练环节是利用海量无标注数据让模型学习丰富的知识信息，形成模型的底层知识来源。微调阶段是根据应用领域，通过针对性定制的标注数据集，引导模型形成回答问题的思路。当前，生成式人工智能模型在原有训练范式基础上，应用人工智能模型“对齐”技术，能够帮助生成式人工智能与人类偏好保持对齐并遵循人类意图，实现模型输出内容符合“有帮助的”、“诚实的”和“无害的”准则。在追求生成式人工智能的性能与安全的平衡方面，“对齐”技术的适当使用将发挥关键作用。

　　《办法》围绕相关关键技术环节提出多项条款：一是明确了模型训练及优化的安全性要求，要求模型训练要使用具有合法来源的数据和基础模型，明确“涉及知识产权的，不得侵害他人依法享有的知识产权”“涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形”及采取有效措施提高训练数据质量等，在提升训练数据质量等生成式人工智能模型重要基础方面作出了详细监管说明。二是明确在数据标注过程中，应制定清晰、具体、可操作的标注规则，以及开展数据标注质量评估、抽样核验标注内容的准确性等要求，在提供符合“对齐”要求的高质量数据方面也提出明确要求。三是在模型输出信息出现违法内容时，要求提供者采取模型优化训练等措施进行整改，体现了《办法》与生成式人工智能技术特点及关键环节的高度适应。　　

　　三、强调促进创新与规范引导并重，有力推动生成式人工智能技术健康发展

　　《办法》的制定和出台，是我国推进生成式人工智能服务领域治理、促进产业规范健康发展、引导技术向善的重要举措。《办法》第三条指出，生成式人工智能服务，坚持发展和安全并重、促进创新和依法治理相结合的原则；第五条明确鼓励生成式人工智能技术在各行业、各领域的创新应用，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构在生成式人工智能多个方面开展协作；第六条提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新及平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。以上内容均体现出我国高度重视生成式人工智能健康发展，科学合理规范引导生成式人工智能应用的管理原则。在人工智能技术迎来重要发展的时期，我们不仅要让相关新技术新应用充分释放出创新活力，也要在安全监管与创新引导之间掌握好平衡。一方面，高度重视和充分研判生成式人工智能相关创新应用对数据安全、公共利益、知识产权、伦理道德等方面可能造成的影响，进一步加强人工智能领域的行业自律，引导大数据、人工智能等先进技术在社会主义核心价值观的引导下开展应用创新，加快制定相关行业标准和规范。另一方面，充分支持人工智能领域研发主体开拓进取，鼓励和支持自主创新，培育国家级生成式人工智能技术生态和应用生态，坚持包容和审慎相结合，理性务实推进中国人工智能科技创新和数字经济的蓬勃发展。（作者：张震 国家计算机网络与信息安全管理中心高级工程师）