探索聊天模型中的Few-Shot示例：一步步提升你的AI对话质量

bhawfgrcbtwny

于 2024-10-03 17:14:42 发布

阅读量134

点赞数 2

文章标签：人工智能 python

本文链接：https://blog.csdn.net/bhawfgrcbtwny/article/details/142693752

版权

引言

在AI对话领域中，few-shot示例是一种有效提高生成效果的方法。通过提供少量已知输入输出示例，开发者可以更好地引导模型生成期望的结果。本篇文章将深入探讨如何在聊天模型中使用few-shot示例，帮助你在实际应用中提升AI对话质量。

主要内容

Few-Shot示例的作用

Few-shot示例通过提供已知输入输出对，帮助模型理解和推断新的对话内容。这种方法对处理不熟悉的任务或符号特别有用。

固定示例的使用

固定示例是最简单的few-shot方法，适用于不需要动态变化的场景：

# 安装必要的库
%pip install -qU langchain

import os
from getpass import getpass

os.environ["OPENAI_API_KEY"] = getpass()  # 这里需要输入你的OpenAI API密钥

以下是定义固定示例并使用它们的示例：

from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate, FewShotChatMessagePromptTemplate

examples = [
    {"input": "2 🦜 2", "output": "4"},
    {"input": "2 🦜 3", "output": "5"},
]

example_prompt = ChatPromptTemplate.from_messages(
    [
        ("human", "{input}"),
        ("ai", "{output}"),
    ]
)

few_shot_prompt = FewShotChatMessagePromptTemplate(
    example_prompt=example_prompt,
    examples=examples,
)

final_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a wondrous wizard of math."),
        few_shot_prompt,
        ("human", "{input}"),
    ]
)

model = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0.0)
chain = final_prompt | model

result = chain.invoke({"input": "What is 2 🦜 9?"})
print(result)

动态Few-Shot示例的实现

动态few-shot示例通过选择最相关的示例来提高对话的灵活性和准确性：

from langchain_chroma import Chroma
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_openai import OpenAIEmbeddings

examples = [
    {"input": "2 🦜 2", "output": "4"},
    {"input": "2 🦜 3", "output": "5"},
    {"input": "2 🦜 4", "output": "6"},
    {"input": "What did the cow say to the moon?", "output": "nothing at all"},
]

to_vectorize = [" ".join(example.values()) for example in examples]
embeddings = OpenAIEmbeddings()
vectorstore = Chroma.from_texts(to_vectorize, embeddings, metadatas=examples)

example_selector = SemanticSimilarityExampleSelector(
    vectorstore=vectorstore,
    k=2,
)

few_shot_prompt = FewShotChatMessagePromptTemplate(
    input_variables=["input"],
    example_selector=example_selector,
    example_prompt=ChatPromptTemplate.from_messages(
        [("human", "{input}"), ("ai", "{output}")]
    ),
)

final_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a wondrous wizard of math."),
        few_shot_prompt,
        ("human", "{input}"),
    ]
)

chain = final_prompt | ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0.0)
result = chain.invoke({"input": "What's 3 🦜 3?"})
print(result)