快手遭自动化攻击:网络安全进入工业化对抗时代 | 新京报专栏

这次事件或将导致公众对全人工审核的浪漫想象彻底破产,“AI对AI”的治理逻辑将被接受。

▲12月22日晚,众多网友反映快手直播间出现大量色情内容,包括播放淫秽影片、主播擦边低俗表演等。

12月22日晚,快手平台出现大量违规直播内容,平台随后回应称系遭遇黑灰产攻击,并已报警处理。

表面看,这是一次突发的内容安全事故,但若将其放入更大的技术与产业背景中,则警示着,伴随技术的迅速迭代,AI可能被用来“作恶”的一面开始显露,互联网平台的安全对抗逻辑也正在面临重大转变。

据媒体报道,此次黑灰产突袭发生在晚间22点左右,在快手平台上,大量直播间在短时间内被恶意注入色情、低俗等内容。峰值时段约有1.7万个被控“僵尸账号”同步开播,形成刷屏效应。涉事直播间观看人数最高接近10万,评论区充斥着不堪入目的留言。

更严峻的是,此阶段部分用户举报功能短暂失效,显示黑灰产在投放违规内容的同时,还对平台处置通道实施了干扰。直到一小时后,平台才基本清除违规内容,将涉案账号全部冻结。此事导致快手股价在次日产生剧烈波动。

警惕“系统性风险”

回顾互联网发展史,如此规模的恶意网络攻击事件实属罕见,背后操纵者如此大张旗鼓,似乎并非只是为了盗取利益,而更像一次凶相毕露的“示威行动”。这是国内首次在头部平台上出现的由AI驱动、自动化、短时间爆发式的违规内容攻击事件。

在这次攻击中,黑灰产不是依赖零散账号、人工操作,而是通过自动化工具批量注册、控制账号,在极短时间内完成内容生成、发布与扩散。它突破了平台的常规安防与监管措施,造成了巨大的负面影响。

所谓道高一尺魔高一丈,自从有互联网以来,网络攻击便随之而生,而且攻击手段的提升也与网络技术的进步高度同频。

此次攻击“自动化”特征非常明显:攻击者借助自动化工具批量注册、操控僵尸号在同一时段集体开播,实现违规内容的秒级发布与扩散,这种规模化攻击完全超出人工审核的应对极限,造成短时间内的安全破防。某网络安防企业对此评论称,这是网络黑灰产利用AI技术发动的有组织、有预谋的攻击,标志着网络攻击已经进入全新的工业化阶段。

目前尚无法得知攻击者使用了什么样的AI技术,但AI技术的使用本身,使这次事件的警示意义已经超出了网络安全层面。AI的崛起一直伴有担忧与争议,但大多数是情绪层面和宏观层面,比如担心AI未来会统治人类,AI取代人类工作等。

而在此次快手事件中,公众并不太会因此突然担心“AI有了自我意识”,却会面对一种更现实,也更危险的新现象:AI正在帮助把作恶行为变成低门槛、可复制、可规模化的事情。

在此之前,人们接触的利用AI“作恶”主要是带来个体风险和伦理风险,比如换脸、盗窃、假视频、假直播、算法歧视、隐私侵犯、知识产权等,这些问题虽然也很严峻,但总归是在短期可控之内。

但在快手事件中,当违规内容在AI技术的操弄下像洪水一样涌来,公众感受到的不再是个别技术问题,而是一种秩序被撕裂的失控感,目睹上万个账号违规内容的刷屏,就像围观一种网络奇观。

如果技术先进的互联网平台企业都被攻破,那么未来,当互联网和AI成为社会基础设施,更强大的攻击是否会引发相应的系统性风险?我们是否已经有所准备?

秉持“AI对AI”治理逻辑

此次事件警示,必须立即开始直面AI技术正在成为新的放大器型风险源的可能。当它被滥用时,谁真正能按下刹车?

在以往公众的认知中,潜意识里对平台企业有一种兜底性的信任存在,总以为平台能够通过技术手段以及人力监管把潜在危害及时掐灭,但此次快手事件中平台的“破防”揭示了另外一种可能。进而引发一种担心,如果平台都扛不住,那普通社会系统呢?

无疑,此次事件的发生,各大平台都被剧烈震撼,其在安全运营领域将普遍面临从单一防御向系统性治理转变的新课题与新挑战。但面对挑战的,绝不仅仅是平台企业,而是全社会。

AI作为技术大潮势不可挡,这类事件的出现也势所难免,而它一旦真的出现,不会导致社会否定AI,只会强化监管共识的加强。以前很多监管讨论偏抽象,比如“AI向善”“算法透明”,今后则会逐渐走向实战,这实际上对监管层提出了更高的要求。

平台所肩负的责任也将升级,在大力宣扬AI的同时,平台也需证明自己能否驾驭AI,有没有自动化防御能力,是否有极端场景演练,是否设定熔断、降级、止损机制?同时,这次事件或将导致公众对全人工审核的浪漫想象彻底破产,“AI对AI”的治理逻辑将被接受。

快手事件虽然严重,但还没到天塌下来的地步,它更像一个触发器,引出一个未来已来的现实风险:如果作恶方未来进化到工业化、自动化、AI化,治理方是否做好了足够的准备呢?

网络安全学习路线&学习资源在这里插入图片描述

网络安全的知识多而杂,怎么科学合理安排?

下面给大家总结了一套适用于网安零基础的学习路线,应届生和转行人员都适用,学完保底6k!就算你底子差,如果能趁着网安良好的发展势头不断学习,日后跳槽大厂、拿到百万年薪也不是不可能!

初级网工

1、网络安全理论知识(2天)

①了解行业相关背景,前景,确定发展方向。
②学习网络安全相关法律法规。
③网络安全运营的概念。
④等保简介、等保规定、流程和规范。(非常重要)

2、渗透测试基础(一周)

①渗透测试的流程、分类、标准
②信息收集技术:主动/被动信息搜集、Nmap工具、Google Hacking
③漏洞扫描、漏洞利用、原理,利用方法、工具(MSF)、绕过IDS和反病毒侦察
④主机攻防演练:MS17-010、MS08-067、MS10-046、MS12-20等

3、操作系统基础(一周)

①Windows系统常见功能和命令
②Kali Linux系统常见功能和命令
③操作系统安全(系统入侵排查/系统加固基础)

4、计算机网络基础(一周)

①计算机网络基础、协议和架构
②网络通信原理、OSI模型、数据转发流程
③常见协议解析(HTTP、TCP/IP、ARP等)
④网络攻击技术与网络安全防御技术
⑤Web漏洞原理与防御:主动/被动攻击、DDOS攻击、CVE漏洞复现

5、数据库基础操作(2天)

①数据库基础
②SQL语言基础
③数据库安全加固

6、Web渗透(1周)

①HTML、CSS和JavaScript简介
②OWASP Top10
③Web漏洞扫描工具
④Web渗透工具:Nmap、BurpSuite、SQLMap、其他(菜刀、漏扫等)

恭喜你,如果学到这里,你基本可以从事一份网络安全相关的工作,比如渗透测试、Web 渗透、安全服务、安全分析等岗位;如果等保模块学的好,还可以从事等保工程师。薪资区间6k-15k

到此为止,大概1个月的时间。你已经成为了一名“脚本小子”。那么你还想往下探索吗?

“脚本小子”成长进阶资源领取

7、脚本编程(初级/中级/高级)

在网络安全领域。是否具备编程能力是“脚本小子”和真正黑客的本质区别。在实际的渗透测试过程中,面对复杂多变的网络环境,当常用工具不能满足实际需求的时候,往往需要对现有工具进行扩展,或者编写符合我们要求的工具、自动化脚本,这个时候就需要具备一定的编程能力。在分秒必争的CTF竞赛中,想要高效地使用自制的脚本工具来实现各种目的,更是需要拥有编程能力.

零基础入门,建议选择脚本语言Python/PHP/Go/Java中的一种,对常用库进行编程学习; 搭建开发环境和选择IDE,PHP环境推荐Wamp和XAMPP, IDE强烈推荐Sublime; ·Python编程学习,学习内容包含:语法、正则、文件、 网络、多线程等常用库,推荐《Python核心编程》,不要看完; ·用Python编写漏洞的exp,然后写一个简单的网络爬虫; ·PHP基本语法学习并书写一个简单的博客系统; 熟悉MVC架构,并试着学习一个PHP框架或者Python框架 (可选); ·了解Bootstrap的布局或者CSS。

8、超级网工

这部分内容对零基础的同学来说还比较遥远,就不展开细说了,贴一个大概的路线。感兴趣的童鞋可以研究一下,不懂得地方可以【点这里】加我耗油,跟我学习交流一下。

网络安全工程师企业级学习路线

如图片过大被平台压缩导致看不清的话,可以【点这里】加我耗油发给你,大家也可以一起学习交流一下。

一些我自己买的、其他平台白嫖不到的视频教程:

需要的话可以扫描下方卡片加我耗油发给你(都是无偿分享的),大家也可以一起学习交流一下。

网络安全学习路线&学习资源在这里插入图片描述

结语

网络安全产业就像一个江湖,各色人等聚集。相对于欧美国家基础扎实(懂加密、会防护、能挖洞、擅工程)的众多名门正派,我国的人才更多的属于旁门左道(很多白帽子可能会不服气),因此在未来的人才培养和建设上,需要调整结构,鼓励更多的人去做“正向”的、结合“业务”与“数据”、“自动化”的“体系、建设”,才能解人才之渴,真正的为社会全面互联网化提供安全保障。

特别声明:

此教程为纯技术分享!本书的目的决不是为那些怀有不良动机的人提供及技术支持!也不承担因为技术被滥用所产生的连带责任!本书的目的在于最大限度地唤醒大家对网络安全的重视,并采取相应的安全措施,从而减少由网络安全而带来的经济损失!!!

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐