[30分钟轻松上手：如何将Context集成到你的LLM产品中]

dfvcbipanjr

于 2024-10-08 15:38:22 发布

阅读量183

点赞数 2

文章标签： python

本文链接：https://blog.csdn.net/dfvcbipanjr/article/details/142761383

版权

# 30分钟轻松上手：如何将Context集成到你的LLM产品中

## 引言
在LLM驱动的产品与特性中，用户分析是优化用户体验的关键环节。借助Context，你可以在短短30分钟内开始理解用户行为并改进他们的体验。本指南将引导你完成与Context的集成过程。

## 主要内容

### 1. 安装和设置
首先，安装必要的软件包。

```bash
%pip install --upgrade --quiet langchain langchain-openai langchain-community context-python

2. 获取API凭证

要获取Context API令牌，请执行以下步骤：

转到Context账户中的设置页面。
生成新的API令牌。
将此令牌安全存储。

3. 设置Context

利用ContextCallbackHandler，从Langchain导入并使用你获取的API令牌进行实例化。

import os
from langchain_community.callbacks.context_callback import ContextCallbackHandler

token = os.environ["CONTEXT_API_TOKEN"]
context_callback = ContextCallbackHandler(token)

代码示例

使用Context回调处理聊天模型

你可以使用Context回调处理程序直接记录用户与AI助手之间的对话记录。

import os
from langchain_core.messages import HumanMessage, SystemMessage
from langchain_openai import ChatOpenAI

token = os.environ["CONTEXT_API_TOKEN"]

chat = ChatOpenAI(
    headers={"user_id": "123"}, temperature=0, callbacks=[ContextCallbackHandler(token)]
) # 使用API代理服务提高访问稳定性

messages = [
    SystemMessage(
        content="You are a helpful assistant that translates English to French."
    ),
    HumanMessage(content="I love programming."),
]

print(chat(messages))

在链中使用Context回调

Context回调处理程序可以用于记录链的输入和输出。务必确保将相同的上下文对象传递给聊天模型和链。

import os
from langchain.chains import LLMChain
from langchain_core.prompts import PromptTemplate
from langchain_core.prompts.chat import ChatPromptTemplate, HumanMessagePromptTemplate
from langchain_openai import ChatOpenAI

token = os.environ["CONTEXT_API_TOKEN"]

human_message_prompt = HumanMessagePromptTemplate(
    prompt=PromptTemplate(
        template="What is a good name for a company that makes {product}?", 
        input_variables=["product"],
    )
) # 使用API代理服务提高访问稳定性

chat_prompt_template = ChatPromptTemplate.from_messages([human_message_prompt])
callback = ContextCallbackHandler(token)
chat = ChatOpenAI(temperature=0.9, callbacks=[callback])
chain = LLMChain(llm=chat, prompt=chat_prompt_template, callbacks=[callback])
print(chain.run("colorful socks"))