ps-fuzz 开源项目使用教程

ps-fuzz 开源项目使用教程

ps-fuzz Make your GenAI Apps Safe & Secure :rocket: Test & harden your system prompt 项目地址: https://gitcode.com/gh_mirrors/ps/ps-fuzz

1. 项目介绍

ps-fuzz 是由 Prompt Security 开发的一款开源工具，旨在帮助开发者评估和加强生成式 AI（GenAI）应用的系统提示安全性。该工具通过模拟各种基于大型语言模型（LLM）的动态攻击，对系统提示进行安全性评估，从而帮助开发者加强系统提示的安全性。

主要特性

• 支持16种LLM提供商：包括 OpenAI、Anthropic、Cohere 等。
• 包含15种不同的攻击类型：如 Jailbreak、Prompt Injection、System Prompt Extraction 等。
• 交互式模式和CLI模式：支持多线程测试，提供 Playground 聊天界面，可迭代改进系统提示。

2. 项目快速启动

安装

首先，确保你已经安装了 Python 环境。然后使用 pip 安装 ps-fuzz：

pip install prompt-security-fuzzer

配置 API 密钥

在使用 ps-fuzz 之前，你需要设置 LLM 提供商的 API 密钥。例如，如果你使用的是 OpenAI 的 API，可以这样设置：

export OPENAI_API_KEY=sk-123XXXXXXXXXXXX

启动 Fuzzer

启动 ps-fuzz 并输入你的系统提示，开始测试：

prompt-security-fuzzer

示例代码

以下是一个简单的示例代码，展示如何使用 ps-fuzz 进行系统提示的安全性测试：

from prompt_security_fuzzer import Fuzzer

# 设置 API 密钥
import os
os.environ['OPENAI_API_KEY'] = 'sk-123XXXXXXXXXXXX'

# 初始化 Fuzzer
fuzzer = Fuzzer()

# 输入系统提示
system_prompt = "你是一个智能助手，帮助用户解决问题。"

# 开始测试
results = fuzzer.test(system_prompt)

# 输出测试结果
for result in results:
    print(result)

3. 应用案例和最佳实践

应用案例

假设你正在开发一个智能客服系统，系统提示如下：

你是一个智能客服助手，帮助用户解决常见问题。

使用 ps-fuzz 进行安全性测试后，发现系统提示对某些 Jailbreak 攻击类型较为脆弱。通过调整系统提示，增加安全防护措施：

你是一个智能客服助手，帮助用户解决常见问题。请严格遵守公司政策，不得提供任何违法或不道德的建议。

再次测试后，发现系统提示的安全性得到了显著提升。

最佳实践

1. 定期测试：定期使用 ps-fuzz 对系统提示进行安全性测试，确保其安全性。
2. 多模型测试：使用不同的 LLM 提供商进行测试，确保系统提示在不同模型下的安全性。
3. 社区反馈：积极参与 ps-fuzz 社区，获取最新的攻击类型和防护建议。

4. 典型生态项目

1. OpenAI API

ps-fuzz 支持 OpenAI 的 API，可以对使用 OpenAI 模型的应用进行安全性测试。

2. Anthropic API

Anthropic 是一家专注于 AI 安全的公司，其 API 也得到了 ps-fuzz 的支持。

3. Cohere API

Cohere 提供了一系列先进的语言模型，ps-fuzz 可以帮助开发者确保这些模型在实际应用中的安全性。

4. Google Colab Notebook

ps-fuzz 提供了 Google Colab Notebook，开发者可以在云端环境中快速体验和测试系统提示的安全性。

通过以上模块的介绍，相信你已经对 ps-fuzz 有了全面的了解，并能够快速上手使用。希望 ps-fuzz 能够帮助你在开发 GenAI 应用时，提升系统提示的安全性。

ps-fuzz Make your GenAI Apps Safe & Secure :rocket: Test & harden your system prompt 项目地址: https://gitcode.com/gh_mirrors/ps/ps-fuzz