大模型和二进制安全(2)-CSDN博客

本文链接：https://blog.csdn.net/2401_84970106/article/details/138842560

1.Large-language-model-guided-protocol-fuzzing/

大模型引导的协议模糊测试
由新加坡国立大学的Ruijie Meng、Martin Mirchev和Abhik Roychoudhury，以及德国MPI-SP和澳大利亚莫纳什大学的Marcel Böhme共同撰写。论文探讨了在没有机器可读的协议规范的情况下，如何发现协议实现中的安全漏洞。由于互联网上的协议实现是安全关键的软件系统，输入必须遵循特定结构和顺序，这些通常在RFC文档中以自然语言非正式地指定。缺乏机器可读的协议版本使得自动生成遵循所需结构和顺序的有效测试输入变得困难。

为了解决这一挑战，作者提出了利用预训练的大型语言模型（LLM）进行系统性交互的方法。这些模型已经消化了数百万页的人类可读协议规范，可以提取出在协议模糊测试（protocol fuzzing）期间可以使用的机器可读信息。研究使用了LLM对知名协议的消息类型的知识，并检查了LLM在检测有状态协议实现中的“状态”方面的性能，通过生成消息序列并预测响应代码。

基于这些观察，作者开发了一个由LLM引导的协议实现模糊测试引擎，名为ChatAFL。ChatAFL为协议中的每种消息类型构建语法，并与LLM交互以变异消息或预测消息序列中的下一条消息。在ProFuzzbench上的广泛真实世界协议的实验表明，ChatAFL在状态和代码覆盖方面显示出显著的有效性。与最先进的模糊测试工具AFLNet和NSFuzz相比，ChatAFL覆盖了更多的状态转换、状态和代码。此外，ChatAFL还发现了九个以前未知的漏洞，而AFLNet和NSFuzz分别只发现了三个和四个漏洞。

这篇论文提供了一种新颖的方法，通过利用大型语言模型的知识和能力，提高了协议模糊测试的效率和效果，对于提高软件系统的安全性具有重要意义。

2. Understanding Large Language Model Based Fuzz Driver Generation

《理解基于大型语言模型的模糊测试驱动程序生成》
作者是来自新加坡南洋理工大学（Nanyang Technological University）、中国科学院信息工程研究所（Institute of Information Engineering, CAS）、新加坡管理大学（Singapore Management University）和新南威尔士大学（University of New South Wales）的Cen Zhang、Mingqiang Bai、Yaowen Zheng、Yeting Li、Xiaofei Xie、Yuekang Li、Wei Ma、Limin Sun和Yang Liu。
论文探讨了如何使用大型语言模型（LLM）自动生成模糊测试驱动程序。模糊测试是一种发现软件安全漏洞的方法，而模糊测试驱动程序是其核心组件，负责将模糊器提供的变异输入传递给目标API并执行。生成高质量的模糊测试驱动程序具有挑战性，因为它需要正确和健壮的API使用代码。
研究者们提出了基于LLM的模糊测试驱动程序生成器作为一种有前景的方向。与传统的基于程序分析的生成器相比，基于LLM的方法更轻量、更通用，能够利用API使用的多个维度，并生成易于人类理解的代码。研究者们设计了五种查询策略，从基础到增强，并构建了一个包含86个驱动程序生成问题的半自动评估框架，以及一套用于精确验证驱动程序有效性的标准。
研究结果表明，基于LLM的生成方法显示出了有希望的实用性，能够全自动解决64%的问题，如果结合手动语义验证器，这一数字可以提高到91%。此外，与工业界常用的驱动程序相比，生成的驱动程序展现出了有竞争力的性能。然而，LLM在生成需要复杂API使用细节的模糊测试驱动程序时仍存在挑战。研究者们指出，通过重复查询、带示例查询和迭代查询的三个关键设计可以帮助改善这一问题。结合这些策略可以产生主导策略。
最后，研究者们将生成的驱动程序与OSS-Fuzz项目中使用的工业界驱动程序进行了比较，以获得实际见解。他们发现，LLM生成的驱动程序在代码和模糊测试指标方面与OSS-Fuzz驱动程序相当，但在自动语义正确性验证、API使用扩展和语义预言器生成等方面仍有改进空间。论文的贡献包括：首次深入研究了基于LLM的模糊测试驱动程序生成的有效性；设计并实现了五种驱动程序生成策略，并在大规模上进行了评估；构建了第一个可以大规模评估生成驱动程序的评估框架；并将生成的驱动程序与工业界使用的驱动程序进行了比较，总结了对未来改进的启示。