帮我搜借鉴资料学习平台

专家解读｜坚持创新引领 促进生成式人工智能健康发展

为促进生成式人工智能健康发展和规范应用，国家互联网信息办公室等部门公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），充分表明支持生成式人工智能健康发展的态度，针对生成式人工智能发展的数据安全、个人隐私、虚假信息、知识产权等关键问题作出制度安排，是贯彻落实党中央对新技术新应用领域决策部署的重要举措，是全球首部针对生成式人工智能的专门立法，在促进产业发展和规制风险方面，形成了中国式立法探索。

一、《办法》充分表明了支持生成式人工智能发展的立法导向

习近平总书记强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。我国高度重视人工智能的健康发展，在生成式人工智能飞速发展的背景下，中共中央政治局会议强调“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》贯彻落实党中央有关人工智能发展的重要指示，充分表明了我国支持生成式人工智能发展的态度。一是《办法》确立了促进生成式人工智能健康发展和规范应用的立法目的。《办法》在总则中首先将“促进健康发展”作为立法目的之一，同时明确了“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”二是《办法》明确了以《科学技术进步法》为上位法依据。《科学技术进步法》是促进高水平科技自立自强的法治保障，《办法》以其为上位法，展示了我国健全生成式人工智能创新保障措施，促进生成式人工智能技术发展应用的导向。三是《办法》提出了鼓励生成式人工智能技术发展的具体举措。《办法》专门就“技术发展与治理”作出专章规定，特别是第五条、第六条提出了鼓励生成式人工智能技术发展的措施，明确国家鼓励生成式人工智能技术在各行业、各领域的创新应用；支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作；鼓励生成式人工智能基础技术的自主创新，平等互利开展国际交流合作；推动生成式人工智能基础设施和公共训练数据资源平台建设等。总体来看，《办法》作为我国在生成式人工智能领域的专门立法，充分考虑了创新发展的客观需要，就生成式人工智能健康发展的关键问题规定了促进措施、明确了发展方向。

二、《办法》积极回应生成式人工智能可能带来的风险

国际社会积极关注生成式人工智能可能产生数据安全、版权纠纷、算法治理等问题，表达了对由此带来的数据安全、国家安全风险的担忧。欧盟迅速在其备受关注的《人工智能法案》中区分了“基础模型”和生成式人工智能应用，并考虑将生成式人工智能应用纳入“高风险”管理，提出相应合规义务。英国注重引导生成式人工智能发展，特别强调了数据保护、透明度、风险评估、算法治理等八个方面的监管重点。世界主要国家和地区的立法及监管实践，对我国促进和规范生成式人工智能提供了相应经验和参考。

我国坚持发展与安全并重，在强调促进生成式人工智能发展的同时，也注重防范生成式人工智能可能带来的风险。《办法》对生成式人工智能可能产生的风险进行了规制。生成式人工智能对人工智能领域国家竞争力产生深远影响，但同时也对安全带来挑战。《办法》精准应对其带来的相关风险，明确义务和责任，对各界普遍关注的问题进行了回应，既符合现实需求，也符合国际趋势。第一，内容安全风险。生成式人工智能在训练过程中，如使用有偏见的数据进行训练，最终可能生成具有偏见或歧视的内容；同时，主导者的意志、观念对于生成式人工智能输出的内容具有较大影响，主导者如按照主观意愿与偏见对生成式人工智能进行训练，生成式人工智能将会延续偏见，最终造成潜在的社会隐患和危害。应对上述问题，《办法》提出了采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视以及其他法律、行政法规禁止的内容的要求。第二，侵害个人信息权益风险。《办法》明确了训练数据涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形，并要求生成式人工智能服务提供者及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。第三，数据安全风险。用户在生成式人工智能中输入的数据可能会被用作进一步迭代的训练数据，并出现在后续生成式人工智能生成的内容中。由此，一旦用户输入的信息中包含个人信息、商业秘密等数据，将面临无形之中被泄露的风险。对此，《办法》规定，生成式人工智能服务提供者对生成式人工智能服务使用者的输入信息和使用记录应当依法履行保护义务。

三、《办法》进一步强化了生成式人工智能发展治理的法律制度

《办法》针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，作出了明确的制度安排。一是在数据领域，《办法》鼓励公共数据的有序开放，推动公共数据分类分级有序开放，拓展高质量的公共训练数据资源；明确训练数据的处理规则，要求数据和基础模型的来源合法，并采取有效措施提高训练数据质量；衔接个人信息保护规则，规定个人信息的收集、留存、向他人提供等均应依法进行。二是在内容领域，《办法》鼓励生成积极健康、向上向善的优质内容，要求不得生成法律、行政法规禁止的内容，并要求对图片、视频等生成内容进行标识。三是在知识产权领域，《办法》明确了尊重知识产权的原则性要求，明确训练数据处理活动不得侵害他人依法享有的知识产权。《办法》衔接了《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》有关网络安全、数据安全、个人信息保护等的要求，科学处理了与现有立法之间的关系，为生成式人工智能发展治理构建了全面系统的制度安排。

综上，《办法》是全球首部专门规范生成式人工智能服务的立法，是我国在新兴领域立法的最新成果，体现了我国对新技术新应用发展规制策略的持续推进。我国高度重视新兴领域立法工作，应对新技术新应用快速发展趋势，围绕算法、深度合成等突出领域及时开展立法工作，出台相应管理规定，促进和规范行业发展。对算法歧视、“大数据杀熟”、诱导沉迷、深度伪造等国内外关注的问题，及时作出立法回应。《办法》立足于我国新兴领域立法经验和基础，以促进生成式人工智能健康发展为目标，积极构建符合我国实际的治理制度，有助于促进人工智能产业健康发展。

中国网信网2023-08-29

专家解读｜鼓励新兴技术健康发展 探索人工智能治理法治路径

《生成式人工智能服务管理暂行办法》（下文简称《办法》）颁布，标志着我国迈出了加快人工智能立法的重要一步。新规出台顺应新兴技术发展趋势，彰显了注重发展、兼顾安全的立法宗旨。《办法》引领国际人工智能的治理实践，对人工智能三要素—数据、算法、算力作出统筹性的制度设计，对迈向通用人工智能立法做出了有益探索。

鼓励新兴技术健康发展，引领国际人工智能治理实践

《办法》开篇即明确“为了促进生成式人工智能健康发展和规范应用”制定，是我国人工智能治理与时俱进的重要举措。2017年国务院发布的《新一代人工智能发展规划》明确提出“到2025年，初步建立人工智能法律法规、伦理规范和政策体系”。2022年底以来，大模型的发展催生了人工智能技术的迭代，生成式人工智能成为人工智能产业全新的发展方向。生成式人工智能不仅能够带动数字内容创作、元宇宙、虚拟人等新兴领域加速发展，更是依托“模型即服务”的产业形态融合渗透传统产业实现生产力跃升。

《办法》的适用范围考虑到生成式人工智能的技术特点与分层业态，充分体现了鼓励人工智能产业发展的精神。生成式人工智能既可以为垂直领域企业提供服务，也可以通过智慧问答、图文生成等方式直接为公众提供服务。正是基于这些新特点，《办法》第二条明确适用范围重点为“向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务”，同时明确“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”。与此同时，《办法》在第五条鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。

《办法》引领国际人工智能的治理实践。生成式人工智能引起世界各国立法和监管的关注，但目前尚无成熟的治理实践。欧盟的《人工智能法案》针对生成式人工智能做出新一轮修改与调整。我国的《办法》作为小切口立法“急用先行”，体现了专门性、前瞻性和开放性，与我国既有的人工智能监管工具相结合，引领生成式人工智能治理实践，率先作出了有益的制度探索。

统筹生成式人工智能多重要素，充分体现系统治理理念

《办法》融合了数据、算法、算力等诸多生成式人工智能要素，并明确对生成式人工智能服务实行包容审慎和分类分级监管。在数据方面，《办法》提出“推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源”，“推进生成式人工智能基础设施和公共训练数据资源平台建设”，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能数据资源建设等方面开展协作。《办法》第七条对训练数据处理活动提出了具体要求。同时，第八条明确了数据标注规范，对在生成式人工智能技术研发过程中进行数据标注的，规定制定符合本办法要求的清晰、具体、可操作的标注规则，开展数据标注质量评估，对标注人员进行必要培训等。

在算法和算力等方面，《办法》第四条明确了算法设计过程中应当遵守的规定，并在第六条提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。《办法》第十七条明确提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估并履行算法备案、变更、注销备案手续。同时，《办法》还提出促进算力资源协同共享、提升算力资源利用效能，明确鼓励采用安全可信的芯片、软件、工具、算力和数据资源，充分回应技术产业发展需要。

兼顾制度创新与监管体系性，迈出通用人工智能治理探索脚步

《办法》兼顾创新制度设计与保持监管体系性。《办法》第二章“技术发展与治理”作出了一系列创新的制度设计，围绕生成式人工智能产业形态设计了覆盖其生命周期的新型监管措施。如第四条要求服务提供者在算法设计、训练数据选择、模型生成和优化、提供服务等过程中采取有效措施防止产生各种歧视，并基于服务类型特点，提升生成式人工智能的透明度，提高生成内容的准确性和可靠性。与此同时，《办法》第七条要求服务提供者依法开展预训练、优化训练等训练数据处理活动，应使用具有合法来源的数据和基础模型，并且要遵守知识产权保护、个人信息保护等相关监管要求。第十四条规定发现违法内容的，应当采取模型优化训练等措施进行整改。上述一系列适应技术发展的监管措施，将有助于促进生成式人工智能规范应用。

与此同时，《办法》第三章明确服务规范。如在第十一条要求提供者对使用者的输入信息和使用记录依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录，还应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求，有效回应了社会各界对生成式人工智能产业特点是否能够符合个人信息保护要求的担忧。第十二条要求提供者按照《互联网信息服务深度合成管理规定》的要求对图片、视频等生成内容进行标识，延续了对于生成内容的标识要求。由此可见，《办法》不仅与我国以往的信息内容监管制度相衔接，还充分考量了与个人信息保护、数据安全等制度的协调性。

生成式人工智能的发展标志着人工智能正在从专用智能迈向通用智能，进入了全新的发展阶段。中共中央政治局4月28日召开会议强调，“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》的各项具体制度开启了通用人工智能立法的新进程。面对技术发展带来的机遇与挑战，《办法》既创新制度设计又保持监管一贯的体系性，既重视安全更多方推进技术产业发展，不仅引领国际人工智能治理实践，更为我国未来通用人工智能的立法与治理做出了有益探索。

中国网信网2023-08-29