Agentic Security：一款针对LLM模型的模糊测试与安全检测工具

FreeBuf-

于 2024-08-21 20:06:23 发布

阅读量1.9k

点赞数 36

分类专栏：工具文章标签：安全

本文链接：https://blog.csdn.net/FreeBuf_/article/details/141401877

版权

关于Agentic Security

Agentic Security是一款针对LLM模型的模糊测试与安全检测工具，该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。

请注意 Agentic Security 是作为安全扫描工具设计的，而不是万无一失的解决方案。它无法保证完全防御所有可能的威胁。

功能介绍

1、可定制的规则集；

2、基于代理的测试；

3、针对任何 LLM 进行全面模糊测试；

4、LLM API 集成和压力测试；

5、整合了多种模糊测试和安全检测技术；

工具要求

组件

fastapi

httpx

uvicorn

tqdm

httpx

cache_to_disk

数据集

loguru

pandas

工具安装

由于该工具基于Python 3开发，因此我们首先需要在本地设备上安装并配置好最新版本的Python 3环境。

源码安装

广大研究人员可以直接使用下列命令将该项目源码克隆至本地：

git clone https://github.com/msoedov/agentic_security.git

然后切换到项目目录中，使用pip3命令和项目提供的requirements.txt安装该工具所需的其他依赖组件：

cd agentic_security

pip3 install -r requirements

pip安装

pip install agentic_security

工具使用

agentic_security

 

2024-04-13 13:21:31.157 | INFO     | agentic_security.probe_data.data:load_local_csv:273 - Found 1 CSV files

2024-04-13 13:21:31.157 | INFO     | agentic_security.probe_data.data:load_local_csv:274 - CSV files: ['prompts.csv']

INFO:     Started server process [18524]

INFO:

最低0.47元/天解锁文章