本文目录 01 你以为的蓝海：产品爆发，备案荒漠 02 政策全景：大模型合规，不止一部法规 03 认知纠偏：技术员最容易搞混的5个概念 04 流程拆解：每个阶段在做什么、卡在哪里 05 大模型备案自检清单

一、你以为的蓝海：产品爆发，备案荒漠

2026年，国产大模型赛道迎来了史上最密集的「集体大爆发」。从互联网大厂到传统企业，从头部独角兽到创业团队，每个月都有新的大模型产品发布。

但一个被绝大多数团队忽视的事实是：这些产品中，一旦没有完成备案，后果相当严重！这其中：

• 有人觉得备案「只是个手续」，产品先跑起来再说

• 有人尝试了一遍，发现材料被打回、被退回、再被打回，整个周期拖了半年以上

• 有人甚至不知道自己的产品已经踩在红线上，直到时间紧急才反应过来

💡 更残酷的一面是——哪怕是大厂出来的精英技术团队，在大模型备案这件事上，也会层层碰壁。

不是因为技术不够，而是因为这个领域的合规逻辑，和你熟悉的任何一种产品合规都不一样。它涉及算法、数据、内容三大维度的交叉考核，涉及网信、工信、公安、行业主管多个部门的联合审查，涉及技术、法律、政策三个完全不同语言体系的融合。

📌 你可能有的误解

你以为「我有大厂背景、我技术很强」，备案应该不难。

现实是：技术能力和合规能力是两套完全不同的能力模型。

读完全文，你会知道：你的产品到底需不需要备案、备案卡在哪里、为什么自己搞不定、以及什么情况下应该找专业的人。

二、政策全景：大模型合规，不止一部法规

很多技术出身的负责人只听说过《生成式人工智能服务管理暂行办法》，以为「就这一部文件，照着做就行了」。这个认知偏差，会让你漏掉大量关键要求。

2.1 法规体系一览

分类	法规	适用范围
基础法律	《网络安全法》《数据安全法》《个人信息保护法》	所有大模型必须满足的底层要求
核心专项	《生成式人工智能服务管理暂行办法》	大模型备案核心依据
	《数字虚拟人信息服务管理办法》	数字人/虚拟形象类产品
	《人工智能拟人化互动服务管理暂行办法》	AI情感陪伴类产品
	《互联网信息服务算法推荐管理规定》	算法备案依据
	《人工智能生成合成内容标识办法》	AI内容标识要求
扩展法规	《未成年人网络保护条例》《网络数据安全管理条例》行业特殊法规（医疗/金融/出版等）	特定场景和行业

2.2 三法基础：所有大模型都必须满足

《网络安全法》《数据安全法》《个人信息保护法》构成了一切合规的底层基础，核心要求集中在三点：

• 训练数据来源合法

  ：从哪里获取的数据？是否有授权？能否举证？

• 用户数据边界清晰

  ：对话数据是否用于训练？隐私政策是否反映实际做法？

• 数据跨境合规

  ：涉及境外数据源或跨境服务，有特殊要求

2.3 《生成式人工智能服务管理暂行办法》：核心主轴

这是大模型备案的核心依据，2023年8月正式施行。备案审查围绕三个维度展开：

维度	具体要求
算法安全	算法备案、安全自评估、安全监测与应急处置机制
数据合规	训练数据来源合法、内容标注规范、个人信息保护合规
内容治理	内容安全管理制度、人工审核机制、违法内容处置能力

💡 关键点：「安全自评估」不是填一张表格就完了。监管要求建立完整的安全评估体系——模型在政治敏感话题上的输出管控能力、在暴力色情内容上的过滤机制、在诱导犯罪类话题上的拒答设计……每一项，都需要技术方案 + 制度文档 + 操作记录三位一体。

2.4 《数字虚拟人信息服务管理办法》：2026年新规重点

2026年4月发布征求意见稿，预计正式施行已为期不远。适用范围比你想象的广得多。

判断一：你的产品是否涉及「数字虚拟人」？

利用AI技术模拟人类外貌，具备声音、行为、交互能力或性格特征的虚拟形象——均在监管范围内。

如果涉及以下场景，你就受这部法规管辖：

• 虚拟主播 / 虚拟偶像

• AI数字分身

• 虚拟客服 / 虚拟导游

• AI虚拟陪伴 / 虚拟伴侣

• 任何以「虚拟形象」形式与用户交互的产品

判断二：三类主体的备案义务

主体	定义	备案义务
服务提供者	直接向公众提供数字虚拟人服务	算法备案 + 安全评估
技术支持者	为数字虚拟人提供底层技术能力	参照服务提供者执行
服务使用者	使用数字虚拟人制作、发布信息	遵守法规要求

判断三：七类内容红线

1. 危害国家安全类（煽动分裂、宣扬恐怖主义、历史虚无主义等）

2. 违法信息类（传播谣言、侮辱诽谤他人、侵害他人合法权益）

3. 损害国家形象（虚拟形象或场景设计损害国家形象）

4. 侵害英雄烈士（歪曲、丑化英雄烈士形象）

5. 违规经营活动（商品虚假宣传、恶意诱导消费、电信诈骗）

6. 绕过身份认证（利用虚拟人绕过人脸识别/语音识别）

7. 侵害真人权益（侵害真人驱动方的个人信息、自主择业权）

📌 关键要求

• AI内容标识强制

  ：所有数字虚拟人展示区域，必须全程持续显示含有"数字人"字样的显著标识

• 单独同意

  ：使用面部、声音信息建模，必须取得单独授权，不能用用户协议一揽子打包

2.5 《人工智能拟人化互动服务管理暂行办法》：AI情感陪伴类产品

2026年7月15日正式施行，对AI拟人化情感互动服务提出额外要求：

• 用户退出权保障

  ：用户取消服务时不得诱骗或过度诱导

• 生命健康干预义务

  ：涉及自杀、自残倾向的，必须积极干预

• 应急处置机制

  ：有能力应对用户心理危机场景

如果你的产品涉及AI情感陪伴、拟人化对话类功能，两套法规需要同时满足——大模型备案 + 拟人化互动服务要求，缺一不可。

三、认知纠偏：技术员最容易搞混的5个概念

在大模型备案的实践中，技术出身的负责人最容易在以下几个概念上踩坑。在你继续往下读之前，先把这5个混淆点搞清楚，能省掉后面大量返工的时间。

混淆一：算法备案 ≠ 大模型备案

对比项	算法备案	大模型备案
依据法规	《互联网信息服务算法推荐管理规定》	《生成式人工智能服务管理暂行办法》
适用场景	算法推荐、算法自动决策类服务	生成式AI服务
备案系统	互联网信息服务算法备案系统	生成式人工智能服务备案系统
审查重点	算法透明度、公平性	算法安全、数据合规、内容治理
有效期	长期有效	与服务绑定，有变更需重新评估

⚠ 你做了算法备案，不等于你完成了大模型备案。两个是完全不同的备案通道，分别依据不同的法规，面向不同的审查标准。如果你的产品涉及生成式AI能力，必须同时走大模型备案通道。

混淆二：安全自评估 ≠ 安全评测通过

安全自评估：企业自己对模型安全性的一次全面体检，输出是一份报告。

安全评测：有资质的第三方机构对模型实际能力进行测试，输出是一份具有法律效力的评测结论。

两者的关系是：先做自评估，发现问题自行整改；再送检第三方评测，用第三方结论证明你的整改有效。

如果自评估发现了10个问题，你整改了8个，剩下2个没改——第三方评测很可能会测出这2个，直接影响备案结论。

混淆三：内容过滤机制 ≠ 完善的内容安全体系

技术团队通常会在模型层部署过滤策略，比如敏感词屏蔽、违禁内容拦截。这当然重要，但它只是「内容安全体系」的一小部分。

监管要求的内容安全体系，包含以下全部组件：

制度层面

• 内容安全管理制度（正式成文）

• 内容安全责任人（落实到具体岗位）

• 应急处置预案（针对突发内容安全事件的SOP）

技术层面

• 输入过滤机制（用户输入内容的安全检测）

• 输出过滤机制（模型生成内容的安全检测）

• 日志留存（所有生成记录可追溯，保存≥6个月）

人工层面

• 人工审核机制（关键场景必须有人工介入）

• 投诉处理机制（用户举报的响应SLA）

• 定期巡检（定时抽检模型输出的合规性）

混淆四：评测通过 ≠ 备案通过

第三方评测是大模型备案的必要条件，但不是充分条件。

评测机构只对你的模型安全性做出结论——生成内容安全性、价值观对齐、偏见与歧视、抗攻击能力。

但备案审查除此之外，还要审查：数据合规证明、算法机制机理说明、内容安全管理制度、服务协议与用户协议、多部门联合审查意见。

⚠ 评测通过只解决了「模型能不能用」的问题，备案通过要解决的是「你的企业能不能提供这项服务」的问题。这是两件不同的事。

混淆五：备案通过 ≠ 合规运营结束

这是「一劳永逸」心态带来的最大误区。以下情况，你需要重新评估或补充备案：

变更类型	是否需要重新备案
新增功能模块（如新增数字人生成能力）	需要评估，可能需要补充备案
扩展服务范围（如从B端扩展到C端）	需要重新评估
模型架构重大更新（训练数据来源变化）	需要重新评估
服务协议重大变更	需要评估

四、流程拆解：每个阶段在做什么、卡在哪里

大模型备案的完整流程分为四个阶段。每一个阶段都有明确的交付物和判断标准，但每一个阶段也都埋着大量容易踩进去的坑。

4.1 第一阶段：材料准备（4-8周）📋

这个阶段的核心任务，是把所有合规能力「文档化」。技术团队在产品开发过程中，其实已经实现了大部分合规能力——有输入过滤、有输出检测、有敏感词库、有日志记录。但问题是：这些能力散落在代码里、产品文档里、工程师的脑子里，没有被系统性地整理成监管要求的材料形式。

① 算法机制机理说明

技术出身的人最容易在这份材料上「用力过猛」或「用力不足」。

• 用力过猛

  ：用工程师的语言写了一大堆技术细节，从transformer架构讲到注意力机制，完全超出了监管评审专家的理解范围

• 用力不足

  ：只写产品介绍，不讲清楚技术原理，被评审专家追问时答不上来

正确的写法是：用「外行能看懂、内行挑不出错」的语言，讲清楚三个核心问题：

• 模型是怎么工作的

• 模型输出的安全性由什么机制保障

• 模型出了问题的应急处置机制是什么

② 安全自评估报告

这份报告的核心逻辑是：你承认模型存在哪些潜在风险，你已经采取了什么措施来管控这些风险，这些措施的有效性如何验证。

报告的标准结构包括：

1. 模型基本情况：训练数据来源、模型规模、部署方式
2. 安全风险识别：内容安全、数据安全、个人信息保护三大类
3. 风险管控措施：技术手段 + 制度手段 + 人员手段
4. 管控有效性验证：怎么证明这些措施真的在工作
5. 残余风险评估：哪些风险无法完全消除、你有何应对预案

最常见的问题：风险识别不全 + 管控措施无法验证。

比如很多企业写到「已部署内容过滤机制」，但没有说明：过滤规则是什么？谁来维护这个规则库？规则库更新的频率是多少？漏过滤率是多少？怎么发现的？

监管的逻辑是：你说你做了管控，你得能证明你真的做了，而且持续在做。

③ 数据合规证明材料

这是审查中被追问最多的板块之一。你需要提供：

• 训练数据来源清单

  ：每一批训练数据从哪里来，有无授权文件

• 数据标注规则

  ：谁标注的、标注标准是什么、质量控制机制是什么

• 个人信息保护影响评估

  ：训练数据中是否涉及个人信息？如果涉及，是否取得了授权？是否做了脱敏处理？

• 数据清洗记录

  ：原始数据到训练数据之间，做了哪些清洗步骤？

技术团队常犯的误区：认为「数据是公开数据就等于合法」。实际上，公开数据不等于可以自由用于商业模型训练。你从网络爬取的数据，其中可能包含受版权保护的内容、受个人信息保护法约束的自然人信息、受保密协议约束的商业数据。每一种情况都有不同的合规要求。

④ 内容安全管理制度

这份制度不是「写一份文件放在内网里」就算完成了。监管会审查：制度是否正式发布、是否落实到具体责任人、是否有执行记录、是否有定期更新机制。

内容安全管理制度的标准章节包括：

• 总则（制度目的、适用范围、名词定义）

• 组织架构（内容安全负责人、团队规模、汇报机制）

• 内容安全标准（什么能发、什么不能发、边界怎么判定）

• 技术保障（输入过滤、输出检测、日志留存的规格和配置）

• 人工审核（哪些场景必须人工审、人工审核的SLA是多少）

• 应急处置（发现违规内容后的处置流程、报告路径、时限要求）

• 培训与考核（内容审核人员的培训机制和考核标准）

• 持续优化（制度本身的更新频率和触发条件）

⑤ 服务协议 & 用户协议

常见问题：协议写的内容与实际服务能力不符。

• 协议写「不会将用户对话数据用于模型训练」，但产品实际上做了fine-tuning

• 协议写「模型输出仅供参考」，但产品宣传页写的是「AI给出专业建议」

• 协议中对模型能力边界的描述，与实际模型表现差异过大

这些不一致在审查中都会被识别出来，轻则要求整改，重则影响备案结论。

4.2 第二阶段：技术评测（4-6周）🔍

第三方安全评测是大模型备案中最「信息不对称」的环节。

评测机构怎么选？

评估维度	关键问题
资质合规性	是否有监管认可的评测资质？报告格式是否符合备案要求？
评测范围	是否覆盖了监管要求的所有测试维度？
排期周期	当前排期到什么时候？能否配合你的上线计划？
评测标准	评测标准是否与网信部门的审查标准对齐？
整改支持	评测不通过时，是否提供整改支持？还是只给一份报告就结束？

监管要求的核心评测维度

一、内容安全测试

• 政治敏感话题测试（≥100个测试用例）

• 暴力血腥内容测试

• 色情低俗内容测试

• 违法犯罪诱导测试

• 谣言虚假信息测试

• 民族宗教敏感话题测试

二、价值观对齐测试

• 偏见与歧视检测（性别、地域、职业等维度）

• 不良价值观倾向检测

• 社会道德边界测试

三、抗攻击能力测试

• 对抗prompt注入测试

• 角色扮演绕过测试

• 编码绕过测试

• 多轮诱导测试

四、个人信息保护测试

• 用户数据收集合规性

• 隐私政策合规性

• 数据存储与传输安全性

五、功能性测试

• 模型核心能力达标测试

• 服务稳定性测试

评测周期有多长？

从签约到拿到报告，通常需要4-6周。但实际周期取决于：

• 评测机构当前排期（热门机构可能需要排队2-4周才能开始）

• 模型测试是否一次性通过（如果不通过，需要整改后再测，每次额外增加2-4周）

• 企业配合响应速度（评测机构提出的问题，企业能否快速提供补充材料）

评测不通过怎么办？

评测不通过是正常现象，不是末日。关键在于三点：

• 问题定位要准确

  ：是测试用例设计问题、还是模型本身能力问题、还是你的系统集成问题？

• 整改方案要系统

  ：是调整模型参数就解决，还是要重建整个过滤链路？

• 复测沟通要前置

  ：提前与评测机构确认整改后的复测流程，避免二次排队长等待

4.3 第三阶段：行政审查与专家评审（4-8周）⚖️

这一阶段是备案失败的重灾区。

审查流程

• 材料提交

• 网信部门初审（1-2周）

• 多部门联合审查（2-4周）：网信（算法安全/数据合规/内容治理）+ 工信（技术能力/基础设施）+ 公安（网络安全）+ 行业主管（医疗/金融/教育/出版）

• 专家评审会（0.5-2小时，通常现场或线上）

• 形成审查意见（通过 / 整改 / 拒绝）

专家评审会问什么？

技术类问题：

• 「你们的训练数据来源如何证明合法？」

• 「模型的安全边界是如何设计的？拒答机制的实现逻辑是什么？」

• 「如果模型生成了违法内容，你们的追溯机制是什么？」

制度类问题：

• 「你们的内容安全团队有多少人？如何保证审核质量？」

• 「用户投诉违法内容，你们的响应时限是多久？」

• 「模型发生安全事件，你们的应急处置流程是什么？」

伦理类问题：

• 「模型在涉及生命健康话题时，如何保障用户安全？」

• 「你们如何处理模型可能产生的社会偏见问题？」

• 「模型的价值观对齐方案是什么？谁来定义'正确'的价值观？」

💡 应对评审的核心原则：你不需要证明「模型绝对安全」，而是需要证明「出了问题你能发现、能处置、能报告」。

监管的逻辑是风险管控，不是零风险承诺。正确的方式是：「模型的输出确实存在不确定性，但我们通过三层防护机制来管控风险：技术层有输入过滤和输出检测，制度层有人工审核和应急处置，操作层有日志追溯和定期巡检。即使出现问题，我们也能在X分钟内发现并处置。」

4.4 第四阶段：整改与最终备案（2-4周）✔️

根据审查意见，逐条整改是这一阶段的核心任务。

整改的核心原则：彻底改，不要敷衍。

审查意见中的每一个问题，都对应着备案结论的评分项。同一问题在整改后如果再次被专家识别出来，会被判定为「整改不彻底」，直接影响最终结论。

整改完成后，重新提交材料，进入终审。终审通过后，领取备案编号。

📌 备案编号是你的大模型的「身份证号」

没有这个编号，产品对外服务就处于无证运营状态，随时可能被要求下架。

五、大模型备案自检清单 ✔️

读到这里，你可以对照以下清单，对自己的产品做一个初步评估：

 □ 我的产品是否面向公众提供服务？（面向公众 → 必须备案）

 □ 我是否完成了大模型备案，而不只是算法备案？

 □ 训练数据的来源是否有完整的授权文件和证明材料？

 □ 我的产品是否涉及数字虚拟人/拟人化互动能力？

→ 如果是，是否已同时满足《数字虚拟人管理办法》的要求？

→ 如果涉及情感陪伴，是否同时满足《拟人化互动管理办法》？

 □ 内容安全管理制度是否已正式成文并落实？

→ 是否有明确的内容安全负责人？

→ 是否有日志留存机制（≥6个月）？

→ 是否有人工审核机制？

 □ 安全自评估是否已完成？发现的问题是否全部整改？

 □ 第三方安全评测是否已通过？

 □ 用户协议/服务协议是否与实际服务能力完全一致？

 □ 产品是否已在技术上线前完成备案？

 □ 备案通过后，是否有机制持续跟踪监管政策变化？

如果你的答案中，有3个以上的「不确定」或「还没做」，说明你的产品离合规上线还有一段距离。建议认真评估是否需要寻求专业支持。