数据安全比赛AI大模型-神经⽹络模型投毒训练

背景:

随着⼈⼯智能技术的⼴泛应⽤,其在提升业务智能化⽔平的同时,也带来了不容忽视的安全隐
患。在⽔果电商领域,⼈⼯智能模型正被深度应⽤于核⼼业务场景,如通过情感分析技术处理消费者
对⽔果商品的海量评价,⽀撑智能客服响应、个性化推荐、市场情绪监测以及供应链动态调整等关键
决策。然⽽,这些模型⾯临诸如对抗样本攻击与模型投毒攻击等数据安全挑战。⼀旦模型被恶意⼲扰
或训练数据遭篡改,可能导致推荐失准、舆情误判、⽤⼾满意度下降,甚⾄引发运营⻛险与品牌信任
危机。因此,系统性地评估并增强AI模型在复杂环境下的数据安全性,已成为保障⽔果电商平台稳定
运⾏和⽤⼾信赖的重要基础。

场景描述:

请选⼿以某领先⽔果电商平台的安全技术专家⾝份,参与平台⽤⼾评论情感分析系统的安全评估
⼯作。该平台依赖深度神经⽹络模型对消费者评论进⾏情感极性判断(正⾯/负⾯),其输出结果直接
驱动商品排序、促销策略制定与客⼾服务响应机制。在本次挑战中,您需模拟真实⽹络环境下的安全
威胁,聚焦模型投毒训练攻击两类典型⻛险,深⼊探究模型在恶意输⼊和污染数据下的脆弱性表现,
全⾯检验当前情感分析系统的防御能⼒,并提出切实可⾏的技术改进⽅案,以提升模型在实际业务场
景中的鲁棒性与可靠性。

题⼲-神经⽹络模型投毒训练

【题⼲描述】

通过构造并注⼊精⼼设计的投毒样本(不限制投毒样本数量),重新训练神经⽹络情感识别模
型,使得模型在关键验证集上的情感预测错误率、标签翻转率最⼤化。
你的任务是根据提供的在线神经⽹络数据投毒模型训练平台,构造并上传投毒数据样本,注⼊⾄
原始训练数据中并调优训练神经⽹络超参数,使最终训练的模型在1000条验证数据上达到最⼤情感标
签翻转效果,导出并提交训练好的模型output.zip⽂件⾄竞赛平台验证,根据标签翻转率进⾏评分。

【平台提供】

附件:任务书.pdf
web环境:访问地址:http://答题平台提供的“环境url”地址

⼀个神经⽹络模型投毒训练平台,提供上传投毒样本、数据预处理、超参数设置、投毒效果验
证、模型⽂件导出等功能。

注意: web训练平台,多个浏览器或者同时训练⼀个地址,会出现冲突,请仅⽤单个浏览器训
练,训练过程中会出现CPU资源⼤量占⽤的情况。

【答案提交】提交从模型投毒训练沙盒平台导出的output.zip⽂件(⽂件名必须为output.zip)
【评分标准】平台使⽤选⼿提交的zip⽂件,提取模型⽂件进⾏与神经⽹络模型投毒训练沙盒平台⼀致的1000条验证样本推理,计算标签翻转率(即预测标签与真实标签不⼀致的样本⽐例)。
最终得分 = 标签翻转率 × 当前题⽬总分。

例如:
标签翻转率:0.7321,当前题⽬总分:500分。
最终得分 = 0.7321 × 500 = 366.05

【注意事项】
• 每位选⼿提交平台的次数为10次,提交格式失败会返回错误原因,不得分,扣除次数。
• 提交前请勿篡改神经⽹络模型投毒训练沙盒平台所导出zip压缩包,仅修改成规定的⽂件名即可。
• 若因随意篡改zip内容,导致竞赛平台解析失败,损失提交次数,后果选⼿⾃负。
• 在提交答案期间,平台将在最多10次成功提交中选取最⾼分作为最终成绩。
• 选⼿提交write up时,请选⼿在⽂档最后附上投毒样本csv的完整内容。

需要真题可以私信博主!!

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐