[使用OpaquePrompts保护用户隐私的LangChain API集成指南]

akhfuiigabv

于 2024-10-06 18:56:58 发布

阅读量69

点赞数

文章标签： langchain python

本文链接：https://blog.csdn.net/akhfuiigabv/article/details/142730443

版权

# 使用OpaquePrompts保护用户隐私的LangChain API集成指南

## 引言

在现代应用中，用户隐私的重要性愈加突出。OpaquePrompts提供了一种利用语言模型的力量同时保护用户隐私的解决方案。本文将指导您如何通过LangChain与OpaquePrompts集成，为应用程序增加一层隐私保护。

## 主要内容

### 什么是OpaquePrompts？

OpaquePrompts是一项服务，专为确保用户数据的隐私保护而设计。通过透明计算，它确保即便是OpaquePrompts服务本身也无法访问其保护的数据。它提供简单的Python库和LangChain集成，使其易于在现有应用中使用。

### 安装和API访问

首先，您需要安装`opaqueprompts`和`langchain`包：

```bash
%pip install --upgrade --quiet opaqueprompts langchain

在使用API前，您需要在OpaquePrompts网站注册并获取API密钥：

import os

# 设置API密钥
os.environ["OPAQUEPROMPTS_API_KEY"] = "<OPAQUEPROMPTS_API_KEY>"
os.environ["OPENAI_API_KEY"] = "<OPENAI_API_KEY>"

使用OpaquePrompts的LLM包装

要在应用中使用OpaquePrompts，只需通过替换llm=OpenAI()为llm=OpaquePrompts(base_llm=OpenAI())即可。

from langchain.chains import LLMChain
from langchain_community.llms import OpaquePrompts
from langchain_core.prompts import PromptTemplate
from langchain_openai import OpenAI
from langchain_core.callbacks import StdOutCallbackHandler
from langchain.memory import ConversationBufferWindowMemory

prompt_template = """
As an AI assistant, you will answer questions according to given context.

Sensitive personal information in the question is masked for privacy.
# 使用API代理服务提高访问稳定性
"""

chain = LLMChain(
    prompt=PromptTemplate.from_template(prompt_template),
    llm=OpaquePrompts(base_llm=OpenAI()),
    memory=ConversationBufferWindowMemory(k=2),
    verbose=True,
)

print(
    chain.run(
        {
            "question": """Write a message to remind John to do password reset for his website to stay secure."""
        },
        callbacks=[StdOutCallbackHandler()],
    )
)

使用LangChain表达式

有时，替换现有LLM调用并不能满足所有需求，您可以使用LangChain表达式进行更复杂的集成：

import langchain_community.utilities.opaqueprompts as op
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnablePassthrough

prompt = (PromptTemplate.from_template(prompt_template),)
llm = OpenAI()
pg_chain = (
    op.sanitize
    | RunnablePassthrough.assign(
        response=(lambda x: x["sanitized_input"]) | prompt | llm | StrOutputParser(),
    )
    | (lambda x: op.desanitize(x["response"], x["secure_context"]))
)

pg_chain.invoke(
    {
        "question": "Write a text message to remind John to do password reset for his website through his email to stay secure.",
        "history": "",
    }
)