在AI浪潮席卷全球的今天,大模型不再是实验室里的“黑科技”,而是深入千行百业的基础设施。但技术越强大,责任越重大。为防止算法滥用、保障数据安全、维护网络空间秩序,我国已建立一套完整的生成式AI合规体系。

如果你正在开发或运营面向公众的AI产品,以下内容你必须了解——

一、什么情况下需要备案?四类场景全覆盖

场景1:自研/微调大模型 → 需做「大模型备案」

  • 适用对象:使用自研或微调的大模型,向境内公众提供文本、图像、音频、视频等内容生成服务(To C)。
  • 关键判断标准
    • 具有舆论属性社会动员能力
    • 面向社会公众提供服务;
    • 模型具备生成合成能力(如聊天机器人、AI绘画、语音合成等)。

示例:你训练了一个模型,并上线了Web或App供用户使用 → 必须备案。

场景2:调用第三方大模型 → 需做「大模型登记」

  • 适用对象:通过API等方式调用已备案的第三方大模型(如通义千问、文心一言、GLM等),为自身产品赋能。
  • 典型场景:SaaS工具、智能客服、内容创作平台等“借力”大模型能力的产品。

 示例:你的电商客服系统接入了某大厂的API未进行训练或微调 → 需登记,而非备案。


场景3:使用特定算法 → 需做「算法备案」

根据《互联网信息服务算法推荐管理规定》,以下5类算法必须备案:

  1. 生成合成类(如AIGC)
  2. 个性化推送类(如信息流推荐)
  3. 排序精选类(如热搜榜、商品排序)
  4. 检索过滤类(如搜索结果过滤)
  5. 调度决策类(如网约车派单、外卖配送)

所有含上述算法的App、网站、小程序及其他或者不直接面向社会公众提供技术开发服务,无论是否涉及大模型,均需备案,算法备案是产品上线的硬性前置条件。

场景4:具有社会影响力的服务 → 需做「双新评估」

  • “双新”= 新技术 + 新应用
  • 适用范围:新闻、社交、短视频、论坛、问答、直播、聊天室等具有舆论属性或社会动员能力的平台。
  • 核心要求:在上线前完成安全评估,确保内容可控、风险可防。

注意:双新评估是App上架(尤其安卓各大应用市场)的硬性前置条件

二、不备案?后果很严重!

依据《生成式人工智能服务管理暂行办法》第21条:

  • 轻则:警告、通报批评、责令限期改正
  • 重则:暂停服务、下架产品
  • 若涉及违法:可能面临治安处罚甚至刑事责任

通过备案是产品正常上线、投融资合规及招投标领域必备的资质。

三、备案流程及时间

(一)大模型备案

前期准备:首先,要主动与属地网信办取得联系,填写信息采集表,并前往线下领取一系列关键资料。这些资料包括上线备案申请表、安全评估报告、模型服务协议、语料标注规则、拦截关键词库、评估测试题集,以及测试账号(10个附加安全审核账号、10个裸奔账号)及测试文档等。这些材料是备案的基础,务必认真准备,确保内容准确、完整。

属地初审:属地网信办会启动初审程序,这一环节涵盖了审查备案材料、进行技术安全评测、组织行业专家评审、征求主管部门意见等多个关键步骤。经过层层把关,属地网信办会形成一份详细的属地初审意见,为后续的中央终审奠定基础。jxh152637

中央终审:中央网信终审环节同样严谨,包括审查备案材料、进行技术安全评测、征求六大部委意见等重要环节。只有当六大部委均无反对意见时,备案才算通过。最终,结果会反馈至中央网信,再由中央网信反馈至地方网信,完成公示上线备案流程。

备案时间:通常需要4-6个月左右。

(二)大模型登记

前期准备:同样先与属地网信办取得联系,填写信息采集表,并领取相关资料。需提交的材料包括登记备案申请表、调用模型证明材料、用户协议、隐私协议、内容安全管理制度、拦截关键词库、评估测试题库、测试账号及测试文档等。这些材料要真实反映模型使用第三方大模型的情况和自身的管理措施。

属地审查:属地网信办会进行审查备案材料、进行技术安全评测、征求主管部门意见等环节,形成属地审查意见,并完成公示上线备案。这一过程虽然相对备案流程略显简化,但同样重要,确保登记的AI产品符合监管要求。

备案时间:通常需要3-4个月左右。

(三)算法备案

在互联网算法备案系统注册,先办理主体登记,之后进行算法备案。全流程都是网上完成,无需去线下办理。需要提交的资料有:营业执照、法人及算法负责人证件、工作证明、承诺书、ICP备案号或许可证。

备案时间:通常需要2个月左右。

四、避坑指南:这些雷区千万别踩

境外模型高风险

  • 使用境外基座模型(如Llama、GPT系列)或爬取境外数据训练模型,在“裸奔测试”中极易被判定为存在安全风险,导致备案失败。

特定行业受限

  • 医疗健康、金融、企业征信类(如企查查模式)企业暂不能申请大模型备案,但可走大模型登记路径。

备案后≠万事大吉

  • 需在产品显著位置展示备案编号
  • 定期接受常态化安全测试
  • 持续更新关键词库、审核机制、应急响应预案

五、备案后管理

通过备案或登记后,提供算法企业的责任并未结束。还需要在显眼位置悬挂备案号,这不仅是合规的标志,也是对公众的一种透明展示。此外,每月还会进行常态化安全测试,提供算法企业要积极配合,确保大模型服务始终处于安全、合规的运行状态。

📎 本文依据《生成式人工智能服务管理暂行办法》《算法推荐管理规定》等政策整理,适用于2025年国内AI产品合规实践。具体执行请以属地网信部门最新要求为准。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐