AI 摘要 / 本文要点
大模型备案不是简单交一份申请表。本文用 8 个高频问题,拆解适用判断、材料清单、安全评估、语料合规与备案后的持续义务,帮助企业在项目上线前把路径想清楚。
- 是否备案,先看模型是否面向境内公众提供生成式人工智能服务,以及企业处于服务提供者还是技术支持者角色。
- 材料通常围绕主体信息、模型与语料、安全评估、内容标识、管理制度和应急处置展开,具体以属地网信办要求为准。
- 大模型备案与算法备案是不同事项,满足条件时可能需要在不同系统分别完成。
- 备案不是一次性动作,模型能力、服务范围、语料来源或安全策略发生重大变化时,需要重新评估。
很多团队第一次接触大模型备案,会把它理解成“填一张表、交一套材料”。真正开始准备后才发现,难点不在表格,而在于先回答清楚三个问题:我们属于哪种角色、模型向谁提供、哪些能力需要被评估。
下面用 8 个高频问题,把生成式人工智能服务备案的材料结构和准备顺序拆开。具体材料项、格式和受理口径,请以属地网信部门最新要求为准。
1. 哪些企业需要做生成式人工智能服务备案?
判断是否需要备案,不能只看公司名称里有没有“大模型”。更关键的是业务事实:
- 模型或应用是否面向境内公众提供文本、图片、音频、视频等生成式人工智能服务;
- 企业是直接向用户提供服务,还是为其他企业提供模型能力、技术支持;
- 服务是否具有舆论属性或者社会动员能力;
- 模型是自研、深度微调,还是直接调用第三方已经备案的模型。
服务提供者、技术支持者的材料重点不同。实际项目中,建议先把产品形态、用户范围、模型来源和上线区域画成一张简单的业务流程图,再对照监管要求判断路径。
2. 大模型备案和算法备案是什么关系?
两者不是同一个事项,也不能简单互相替代。
大模型备案关注生成式人工智能服务本身;算法备案关注互联网信息服务中的算法应用。一个产品可能只涉及其中一项,也可能两项都需要评估。比如,面向公众提供生成式对话服务,同时又使用推荐算法进行内容分发,就需要分别判断是否触发相应义务。
实务上,建议把“大模型备案、算法备案、深度合成备案、生成合成内容标识”放在同一张合规地图里统筹,而不是等产品上线后再逐项补课。
3. 材料清单通常包含哪些部分?
不同地区、不同服务形态会有差异,但准备逻辑大体可以分成六组:
| 材料组 | 主要回答的问题 |
|---|---|
| 主体与产品信息 | 谁提供服务、服务什么、面向谁、如何上线 |
| 模型与语料说明 | 模型来源、训练与微调方式、语料来源和治理机制 |
| 安全评估 | 风险识别、测试方法、结论与整改记录 |
| 内容安全与标识 | 输入输出审核、违法不良信息处置、生成合成内容标识 |
| 制度与人员 | 安全负责人、审核流程、培训、应急预案 |
| 用户与权益 | 用户协议、隐私保护、投诉渠道、未成年人保护 |
材料不是越多越好。审核更关注“说得清、对得上、能执行”:业务描述、技术事实、制度文件和实际系统要能相互印证。
4. 安全评估报告重点写什么?
安全评估不是把风险词堆满,而是说明企业如何识别风险、如何验证、如何处置。常见内容包括:
- 模型在政治、色情、暴力、歧视、违法活动等维度的测试情况;
- 提示词注入、越狱、恶意诱导等对抗性测试;
- 个人信息、商业秘密和未公开数据是否可能被输出;
- 内容审核策略、人工复核机制和紧急停止能力;
- 发现问题后的整改记录和复测结果。
评估报告最好能附上测试集设计思路、抽样方法和典型样例。只写“已做安全评估”,很难支撑审核判断。
5. 语料来源需要准备到什么程度?
语料合规是高频问询点。企业至少需要说明:
- 语料从哪里来,是否取得合法授权;
- 是否包含个人信息、重要数据或未公开内容;
- 如何进行清洗、去重、脱敏和版权筛查;
- 是否建立语料投诉与删除机制;
- 微调数据与业务场景是否匹配。
如果使用开源数据集、第三方数据服务或客户数据,建议保留授权链条和使用边界说明。不要用“网上公开可得”代替授权判断。
6. 生成合成内容标识怎么做?
面向公众提供生成式人工智能服务,通常需要评估生成合成内容的显式标识和隐式标识安排。显式标识要让用户能够感知内容由 AI 生成;隐式标识则服务于溯源和检测。
产品设计时就要考虑标识位置、展示方式、文件元数据和用户协议说明,而不是上线后再补一个提示语。涉及图片、音频、视频、数字人等形式时,标识方案还需要和实际生成链路对齐。
7. 备案完成后还需要做什么?
备案不是“拿到编号就结束”。模型版本、服务范围、语料来源、审核策略、运营主体等发生重大变化时,需要重新评估是否触发变更或重新备案。
日常运营中建议保留:
- 模型版本与上线记录;
- 内容审核日志和处置记录;
- 用户投诉与反馈处理记录;
- 安全测试与应急演练记录;
- 第三方模型或数据服务的授权文件。
这些材料既是持续合规的基础,也能在监管问询时快速说明情况。
8. 最常见的退回原因有哪些?
从项目经验看,常见问题往往不是“缺一份模板”,而是信息之间对不上:
- 产品描述与实际功能不一致;
- 模型来源、语料来源说不清,授权链条不完整;
- 安全评估只有结论,没有测试方法和整改记录;
- 内容审核制度写了,但系统里没有对应能力;
- 用户协议、隐私政策与实际收集的信息不一致;
- 只做了大模型备案,遗漏算法备案或生成合成内容标识评估。
准备建议
先用一页纸写清楚“产品是什么、模型从哪里来、用户是谁、内容如何审核、出了问题谁负责”。这五个问题回答清楚后,再展开材料,效率会高很多。
如果团队正在准备上线,建议至少提前完成一次内部预评估:把业务、技术、法务和运营拉到同一张表上,逐项确认事实和证据,再决定备案路径与时间表。
本文基于公开法规与项目经验整理,仅供参考,不构成法律意见。具体备案要求以主管部门最新口径为准。