*大家好，我是AI拉呱，一个专注于人工智领域与网络安全方面的博主，现任资深算法研究员一职，热爱机器学习和深度学习算法应用，深耕大语言模型微调、量化、私域部署。关注AI拉呱一起学习更多AI知识。

论文介绍

题目：《From Vulnerability to Defense: The Role of Large LanguageModels in Enhancing Cybersecurity》

论文介绍：随着网络威胁日益复杂，传统网络安全机制面临挑战，大语言模型（LLMs）的出现为网络安全领域带来变革。文章全面探讨了 LLMs 在网络安全中的应用、面临的挑战及未来发展方向。

关键词：大语言模型；入侵检测；恶意软件检测；钓鱼攻击检测

LLM在网络安全领域应用

网络安全的趋势：网络安全威胁的格局不断发展，日益复杂 ，其特征是复杂的网络攻击、大规模数据泄露、勒索软件事件和零日漏洞 。

LLM在网络安全中的应用方向：

LLM在安全场景中的应用流程

网络安全数据集

CyberMetric 是一个全面的数据集，包含来自标准、认证、研究论文、书籍和其他网络安全出版物的 10,000 个问题。它是评估 LLM 在密码学、逆向工程和风险评估等主题方面的一般知识的强大工具 [1]。

SecQA 提供了一个问答数据集，专门用于评估 LLM 对计算机安全的理解。SecQA 中的多项选择题使用 GPT-4 生成，基于 “计算机系统安全：成功规划” 教科书，侧重于测试模型有效应用核心安全原则的能力 [2]。

CTF 数据集和 LLMSecEval 等实用数据集还侧重于 LLM 在网络安全中的实际应用。

SecureBERT-plus

架构:

模型地址： https://huggingface.co/ehsanaghaei

AI驱动框架

1. Xpert专注于大规模云系统，，这是一个 AI 驱动的框架，可自动执行 KQL 查询建议，以增强 Microsoft 的事件解决能力 [3]。
2. IcM BRAIN以人工智能 IT 运营 （AIOps） 为基础，确定了诊断前所未有的事件的挑战，这是一个提高 Microsoft 事件响应效率的 AI 框架 [4]。

LLM在EDR

DrSec，这是一种旨在通过采用自监督学习来预训练基础语言模型（LMs）来增强终端检测和响应（EDR）的系统。这些模型可以适应各种下游任务，减少误报并改进安全事件检测。该研究突出了 DrSec 减少警报疲劳和更好地识别大型数据集中的进程的能力，展示了其在警报分类和进程识别方面优于当前安全方法的优势 [5]

参考文献

1. Tihanyi, N.; Ferrag, M.A.; Jain, R.; Debbah, M.O. CyberMetric: A Benchmark Dataset for Evaluating Large Language Models in Cybersecurity Knowledge. arXiv 2024, arXiv:2402.07688.
2. Liu, Z. SecQA: Question-Answering Benchmark Dataset for Evaluating LLMs in Computer Security. arXiv 2023, arXiv:2312.15838
3. Jiang, Y.; Zhang, C.; He, S.; Yang, Z.; Ma, M.; Qin, S.; Kang, Y.; Dang, Y.; Rajmohan, S.; Lin, Q.; et al. Xpert: Empowering Incident Management with Query Recommendations via Large Language Models. In Proceedings of the 2023 International Conference on Incident Management, Lisbon, Portugal, 14–20 April 2023; pp. 1–13.
4. Chen, Z.; Kang, Y.; Li, L.; Zhang, X.; Zhang, H.; Xu, H.; Zhou, Y.; Yang, L.; Sun, J.; Xu, Z.; et al. Towards Intelligent Incident Management: Why We Need It and How We Make It. In Proceedings of the ACM/IEEE International Conference on Software Engineering (ICSE), Melbourne, VIC, Australia, 14–20 May 2023.
5. Sharif, M.; Datta, P.; Riddle, A.; Westfall, K.; Bates, A.; Ganti, V.; Lentzk, M.; Ott, D. DrSec: Flexible Distributed Representations for Efficient Endpoint Security. In Proceedings of the 2024 IEEE Symposium on Security and Privacy, San Francisco, CA, USA,20–22 May 2024.

关注“AI拉呱公众号”一起学习更多AI知识！