解读《生成式人工智能服务管理暂行办法》：我的大模型服务需要备案还是登记？

原创

众森企服

发布于 2025-05-16 09:44:47

3.8K0

随着人工智能技术的飞速发展，生成式人工智能服务已经深入到我们生活的各个角落。从智能客服到内容创作，从教育到医疗，生成式人工智能的应用场景越来越广泛。然而，技术的快速发展也带来了新的挑战，尤其是在数据安全、隐私保护和算法透明性方面。为了规范生成式人工智能服务的发展，保障技术的安全、合规和可控，《生成式人工智能服务管理暂行办法》应运而生。

最近，很多客户电话咨询大模型备案和登记，还有算法备案的相关问题，很多客户容易搞混，不了解大模型备案和登记到底是什么？今天，众森企服就给大家详细讲讲我的大模型服务到底需要备案还是登记？

一、大模型备案和登记的背景及意义

1、大模型备案和登记的背景

在人工智能技术快速发展的背景下，生成式人工智能服务的广泛应用引发了社会各界的关注。这些服务在为人们带来便利的同时，也可能带来数据泄露、隐私侵犯、算法偏见等问题。为了应对这些挑战，国家相关部门出台了《生成式人工智能服务管理暂行办法》，明确了大模型备案和登记的要求。

2、大模型备案和登记的积极意义

保障数据安全：通过备案和登记，监管机构能够全面掌握模型的基本信息和使用情况，从而保障数据的安全性和隐私保护。
确保合规性：备案和登记要求企业披露技术细节，确保其应用符合相关法律法规，维护市场秩序。
提高透明度：备案和登记制度提高了技术的透明度，增强了用户和公众对人工智能技术的信任。
促进健康发展：规范化的管理有助于推动生成式人工智能服务的健康发展，避免因技术的不透明或不合规而导致的市场失衡。

二、国内大模型备案和登记情况

截至2025年3月，国内总共通过了大模型备案505个，其中大模型服务备案345个，占比68.32%，大模型登记备案159个，占比31.48%。从地域分布来看，北京、上海和广东在大模型备案数量上遥遥领先，分别通过了151款、140款和53款大模型备案。

三、大模型备案和登记是什么？

根据《暂行办法》及相关指引文件，大模型相关的合规路径主要分为“备案”和“登记”两种。准确理解二者的定义、适用情形及区别，是企业合规的第一步。

1、大模型备案（生成式人工智能服务上线备案）

定义： 大模型备案，通常指的是生成式人工智能服务上线备案。根据《暂行办法》，“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。这意味着，如果一个组织或企业自主研发并直接向公众提供具有潜在社会影响力的生成式AI服务，就需要进行大模型备案。
适用主体： 主要是指生成式AI服务的原始提供者，即那些研发、训练并运营基础大模型，并直接将其能力开放给公众使用的企业或机构或者利用已备案的模型进行私有化部署，二次开发并训练并对公众提供服务的企业或者机构。
核心要求： 强调对模型本身及其服务的全面安全评估。除了算法备案的相关手续外，通常还需要进行专门针对生成式AI的安全评估。
举例说明：
某科技公司自主研发了一个通用的对话式大型语言模型，并将其封装成一个公开的聊天机器人App或网站服务，用户可以直接与之交互，讨论各类话题（包括可能涉及社会热点、公共政策等）。由于该服务直接由模型研发方提供，且具有潜在的舆论属性，该公司需要为其大模型服务进行备案。
一家AI研究机构开发了一个先进的文生图模型，并计划推出一个允许公众输入文本描述来生成图片的在线平台。该平台的服务直接基于第三方模型进行二次开发、训练的，同样需要进行大模型备案。

2、大模型登记

定义： 大模型登记，指的是“网信部门会同相关部门按照《生成式人工智能服务管理暂行办法》及相关要求，对通过API接口或其他方式直接调用已备案大模型能力，且面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务开展登记工作”。简而言之，如果一个组织或企业本身不研发基础大模型，而是调用了他人已经备案的大模型的能力，并利用这些能力构建了面向公众的、具有潜在社会影响力的生成式AI应用，那么它就需要进行大模型登记。
适用主体： 主要是指生成式AI服务的应用提供者或开发者，他们基于第三方已备案的基础模型，通过API调用或其他方式进行封装、优化或集成，形成新的应用服务。
核心要求： 重点在于确保对已备案模型能力的调用是合规的，并且上层应用本身也符合安全管理要求。通常情况下，对底层已备案模型的重复性安全评估要求可能会有所简化，但应用层面的安全责任依然存在。
举例说明：
一家电商公司希望提升其在线客服的智能化水平。它选择接入一家已完成大模型备案的AI公司的对话API，并基于此API开发了一个能够与顾客进行自然交互、解答售前售后问题的智能客服系统。该客服系统通过电商平台的网站和App向公众提供服务。尽管电商公司本身不拥有底层大模型，但由于其利用已备案模型提供了具有社会互动性的服务，因此需要为其智能客服应用进行大模型登记。
某教育科技公司利用一个已通过备案的第三方文本生成大模型的API，开发了一款辅助写作工具，该工具可以帮助学生润色文章、提供写作建议，并通过在线平台向广大学生用户提供。该公司同样需要为其写作工具进行大模型登记。

3、大模型备案和登记主要区别总结

准确判断服务属于需要“备案”还是“登记”的范畴，对企业而言至关重要，它直接关系到后续准备的材料、遵循的流程以及可能面临的审查重点。

四、大模型备案和登记的详细材料、流程及申请难点

（一）大模型备案

1、大模型备案所需材料

上线备案申请表：详细填写大模型的基本信息，包括模型名称、版本号、研发主体、应用领域、模型架构等内容。
安全评估报告：对大模型进行全面的安全评估，涵盖数据安全（如数据加密、访问控制、数据泄露风险等）、算法安全（如算法稳定性、抗攻击性、避免算法偏见等）、内容安全（如是否能有效识别和过滤不良信息等）等方面。
模型服务协议：明确大模型服务提供者与用户之间的权利和义务关系，包括服务内容、使用方式、数据使用政策、隐私保护措施、违约责任等条款。
语料标注规则：说明大模型训练所使用的语料标注方法、标注团队情况、标注质量控制措施等，确保语料来源合法合规，标注准确可靠。
拦截关键词库：提供一份详尽的拦截关键词列表，用于大模型在生成内容过程中识别和过滤不良信息，如涉及违法犯罪、虚假宣传、暴力恐怖、色情低俗等内容的关键词。
评估测试题集：包含针对大模型功能、性能、安全性等方面的测试题目及预期答案，用于审核人员对大模型进行全面测试，验证其是否符合相关要求。
测试账号及测试文档：提供多个测试账号，包括用于常规测试的账号和用于安全审核的特殊账号，并附带详细的测试文档，说明每个测试账号的用途、测试场景以及对应的操作步骤和预期结果。

2、大模型备案申请流程

向省级网信部门报备：获取备案表。
企业准备材料：根据表格及评估要点准备材料。
企业内部评估：编写相关材料，准备测试账号。
提交审核：提交材料和测试账号给省级网信部门审核。
省级网信部门审核：材料审核及技术测试（安全测试）审核通过后，上报国家网信部门。如未通过，修改材料或调整模型能力后再次提审。
国家网信部门复审：进行材料复审及技术评审。通过后，企业下发备案号。未通过，需重新进行上线备案。

3、大模型备案申请难点

技术复杂性：大模型的技术复杂性使得其内部机制和行为难以被完全理解和评估。
数据隐私问题：大模型在训练过程中通常需要大量的数据，但如何在确保模型有效性的同时保护用户的隐私数据，是备案过程中需要重点考虑的内容。

（二）大模型登记

1、大模型登记所需材料

登记备案申请表：填写企业基本信息、所调用第三方大模型的相关信息（如模型名称、备案号、提供方等）、自身产品或服务的信息（如应用领域、服务对象、功能介绍等）。
调用模型证明材料：提供与第三方大模型提供方签订的合作协议、API 调用授权书等，证明企业合法获得了调用第三方大模型的权利。
用户协议：明确企业与用户之间的权利义务关系，包括服务内容、使用限制、隐私保护、责任限制等条款。
隐私协议：详细阐述企业在收集、使用、存储和共享用户数据过程中的隐私保护措施，确保用户数据安全。
内容安全管理制度：制定企业内部的内容安全管理规范，包括内容审核流程、违规处理机制、人员培训制度等，以保障通过大模型生成的内容符合法律法规和道德规范。
拦截关键词库：同大模型备案要求类似，提供一份用于过滤不良信息的拦截关键词列表。
评估测试题库：包含针对所使用的第三方大模型在自身产品或服务场景下的测试题目及预期答案，用于验证大模型在实际应用中的表现和安全性。
测试账号及测试文档：提供测试账号及详细的测试文档，说明测试账号的用途、测试场景以及对应的操作步骤和预期结果，以便审核人员对企业使用第三方大模型提供的服务进行全面测试和评估。

2、大模型登记申请流程