2013 年诞生于深圳的闪剪智能,用十二年时间完成了从工具开发者到 AI 视频生态构建者的蜕变。凭借逗拍、趣推、字说等爆款短视频工具积累的 3 亿用户,为其在 AI 时代的爆发埋下伏笔。2020 年闪剪 AI 实验室成立,以 “让视频创作更简单” 为使命,历时两年打磨出数字人视频合成技术,2022 年闪剪 APP 的推出标志着其正式踏入全新的 AI 赛道。

从“数字人是什么” 的市场教育期,到 2023 年底的爆发式增长,闪剪用 “笨办法” 走出了差异化路径:创始人团队亲自下场测试数字人应用场景,通过深度用户社群运营、课程赋能,积累标杆案例。将数字人定制价格从 8000 元 / 个降至百元级,操作门槛从电脑端长素材训练简化为手机端 30 秒速成。如今,500 万用户通过闪剪定制数字人,90 + 员工数字人矩阵号斩获数十亿全网播放量,多次登顶 AI 类产品榜单。

2024 年,针对企业级需求推出的 闪剪 Agent”,更是将 C 端验证的成功经验升级为 B 端解决方案 —— 从批量选题、文案生成到数字人出镜、多平台发布的全流程自动化,让连锁店店长、企业销售都能拥有专属数字人,实现 “一人一矩阵” 的规模化视频生产。这种从个人创作工具到团队生产力系统的跨越,既带来了指数级增长,也暗藏着内容安全的新挑战。 

图片

从 UGC 到 AIGC

爆发式增长背后的内容安全 “暗礁”

2019 年后,用户量与 UGC 内容呈指数级增长,闪剪的内容治理体系面临前所未有的压力,具体可概括为三大核心痛点:

1. 海量内容与低效审核的矛盾

平台社区、直播、评论等场景的内容生成量激增,传统人工审核模式陷入“三重困境”:效率上,内容积压导致审核延迟严重,影响用户实时互动体验;成本上,招聘、培训、管理审核团队的开支持续攀升;质量上,人工判断的主观性导致误判率居高不下,合法内容被误伤、违规内容漏放的情况频发。

2. 违规形态升级的技术挑战

黑产与不良信息发布者的对抗性攻击不断升级,违规内容呈现“隐蔽化、变异化、自动化” 特征:文本层面,火星文、谐音字、拼音缩写等变形手段规避关键词拦截;视觉层面,图片模糊处理、画面拼接隐藏违规元素;行为层面,跨平台引流、批量注册账号等团伙式操作增多,原有规则引擎与人工识别体系逐渐失效。

3. 合规要求与用户体验的平衡难题

随着监管法规的强化实施,平台面临严格的合规责任,一旦出现违规内容传播,可能面临行政处罚、声誉受损甚至下架风险。但过度严苛的审核又会伤害用户体验—— 正常昵称被拦截、合法素材被误判等问题引发用户不满,直接影响平台核心价值与商业化前景。

如何安全合规” 与 创作自由” 之间找到平衡点,成为闪剪突破增长瓶颈的关键。正是 2019 年的平台增长爆发期,闪剪正式选择与数美携手,解决内容安全的刚需问题。

2022年,闪剪正式进入全新的 AI 赛道,平台的数字人视频从个人创作走向企业级规模化应用,闪剪面临的内容安全挑战呈现出更复杂的形态:

1. 多模态内容风险的指数级攀升

数字人视频融合文本(文案脚本)、视觉(数字人形象 / 动作)、音频(克隆声音)等多模态元素,风险点呈几何级增长:政治敏感元素可能隐藏在数字人服饰细节中,违规话术可能通过 AI 文案生成器批量产出,克隆声音可能被用于伪造身份传播虚假信息。传统文本审核或单一图像检测难以覆盖全链路风险。

2. 规模化生产的审核效率瓶颈

闪剪 Agent 的 “批量视频输出” 功能支持一次生成数百条数字人视频,连锁品牌 70 + 店长矩阵单日可产出上千条内容。这种规模化生产对审核效率提出了更高的要求。

3. B/C 端场景的差异化安全需求

(1)C 端用户以个人创作者为主,追求表达自由与创作效率,内容多为生活记录、知识分享,需在严控色情低俗、暴恐元素的同时,避免过度审核扼杀创意;

(2)B 端企业机构如连锁品牌、政务机构,内容偏向商业宣传或官方发布,内容风险度相对偏低,但要求严格规避虚假宣传、版权问题。

图片

数美 AIGC 内容风控方案

构建 AI 视频生态的 “安全屏障”

针对闪剪从 C 端到 B 端的全场景需求,数美科技构建了覆盖内容生产、分发、运营的全生命周期风控体系,实现安全与效率的动态平衡:

1. 多模态内容AI审核,精准识别内容伪装

数美凭借深度学习技术,构建了覆盖文本、图像、音频、视频的多模态审核能力:

文本维度:基于 NLP 语义理解模型,破解谐音、拼音、 emoji 混合等变形手段,精准识别隐藏的违规意图,而非简单依赖关键词拦截;

视觉维度:通过计算机视觉(CV)技术,实现对图片、视频帧的细粒度分析,检测画面中的色情、暴恐、政治敏感元素,即使经过模糊、拼接处理也能精准识别;

行为维度:结合设备指纹、用户行为序列分析、关系图谱构建,识别团伙式注册、批量发布等异常行为,从源头遏制黑产攻击。

2. 动态策略引擎,适配场景化需求

数美提供高灵活度的策略管理平台,支持闪剪针对不同场景、用户群体、风险等级定制审核规则:

(1)面向B端,宽松策略

面向 B 端用户,如政府、商家等,由于其创作内容通常较为官方,风险值较低,采用 “宽松审核模式”。在保障基本合规的前提下,减少不必要的审核干预,提高内容处理效率,满足其对创作流程顺畅性的需求,让官方内容能够快速、准确地呈现。

(2)面向C端,收紧策略

针对 C 端用户,因其属性创新开放,违规内容生成的概率较大,启用 “收紧审核策略”。通过提高审核标准和频次,加强对内容的细致筛查,及时发现并处理潜在的违规信息,严格把控内容质量,降低违规风险。

对直播、社区等高风险 C 端场景,额外增加 “实时拦截 + 人工复核” 机制,确保违规内容即时处理。

(3)全周期风控赋能:变革增长的安全底气

数美科技以共生型风控伙伴角色,深度嵌入闪剪从 UGC 扩张到 AIGC 规模化应用及企业级落地的全业务周期:早期通过高效审核引擎破解海量内容处理瓶颈,AIGC  阶段快速迭代多模态模型应对数字人、AI 文案等新风险,企业级落地时定制行业专属策略,始终以业务节奏为锚点动态迭代风控能力,让风控与业务增长同频,成为支撑其变革的安全底气。

图片

合作价值

安全体验双优,增长质效协同

数美与闪剪的深度合作,不仅解决了内容安全挑战的核心难题,更成为驱动业务增长的坚实支撑:

1. 安全与效率双向提升。

AI 审核让闪剪内容处理效率大幅提升,审核延迟压缩至毫秒级,适配直播、实时评论等场景的即时性需求;同时,违规内容识别准确率达 99%,人工审核成本骤减,彻底告别 “堆人审核” 的低效模式。

2. 用户体验与合规协同兼顾。

多模态语义理解技术以及精细化的四级标签体系显著降低误伤率,动态策略配置既满足监管合规要求,又保障了创作自由度,推动平台社区活跃度提升,优质创作者留存率进一步改善。

3. 突发风险极速响应,动态护航内容生态安全

在闪剪爆发式增长过程中,数美科技可通过风险态势感知系统,能够实时捕捉热点事件、突发话题等潜在风险,并通过合规策略动态迭代快速应对,“实时感知+动态适应”的能力,不仅确保了内容生态的安全性,还为创作效率的持续提升提供了坚实保障。

闪剪智能 CTO 唐向阳评价道:“与其说我们选择了数美,不如说是彼此价值观的共鸣。这些年来,数美和我们并肩打磨我们公司的风控模型,推动我们内容安全体系的从无到有、持续升级,这种扎根基本功却能持续创新的能力,才是长期主义的标杆。安全感是建立信任的基石,而数美就是能够让我们能够安心托付的伙伴。

数美科
,赞2


【AI 时代,安全才是长期主义】

在 AI 创作工具高速迭代的赛道上,闪剪的实践印证了一个核心逻辑:内容安全不是业务的 “成本项”,而是可持续增长的 “基础设施”, AI 时代,安全才是长期主义。当安全能力与产品创新深度融合,既能守住合规底线,又能释放用户创造力,这正是数美科技与闪剪合作的核心价值 —— 以安全为基,让每一次创新都能从容生长

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐