使用Few-Shot示例提升模型表现的技巧-CSDN博客

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/143224076

引言

在自然语言处理领域，Few-Shot学习是一种有效的方法，可以通过提供少量示例来指导模型生成更准确的输出。本篇文章将介绍如何使用Few-Shot示例来提升大型语言模型（LLM）的性能。我们将探讨如何创建简单的提示模板，并通过Few-Shot示例指导生成过程。

主要内容

创建Few-Shot提示模板

步骤一：构建格式化器

首先，我们需要配置一个格式化器来格式化Few-Shot示例。这个格式化器应该是一个PromptTemplate对象。

from langchain_core.prompts import PromptTemplate

example_prompt = PromptTemplate.from_template("Question: {question}\n{answer}")

步骤二：创建示例集

接下来，创建一个Few-Shot示例的列表。每个示例都是一个字典，表示输入和对应的输出。

examples = [
    {
        "question": "Who lived longer, Muhammad Ali or Alan Turing?",
        "answer": """
Are follow up questions needed here: Yes.
...
So the final answer is: Muhammad Ali
""",
    },
    # 更多示例
]

步骤三：测试格式化效果

测试我们定义的格式化器与示例的结合效果。

print(example_prompt.invoke(examples[0]).to_string())

创建FewShotPromptTemplate

构建一个FewShotPromptTemplate对象，将Few-Shot示例和格式化器结合使用。

from langchain_core.prompts import FewShotPromptTemplate

prompt = FewShotPromptTemplate(
    examples=examples,
    example_prompt=example_prompt,
    suffix="Question: {input}",
    input_variables=["input"],
)

print(prompt.invoke({"input": "Who was the father of Mary Ball Washington?"}).to_string())

使用示例选择器

使用SemanticSimilarityExampleSelector

利用SemanticSimilarityExampleSelector根据输入选择与其最相似的Few-Shot示例。

from langchain_chroma import Chroma
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_openai import OpenAIEmbeddings

example_selector = SemanticSimilarityExampleSelector.from_examples(
    examples,
    OpenAIEmbeddings(),
    Chroma,
    k=1,
)

question = "Who was the father of Mary Ball Washington?"
selected_examples = example_selector.select_examples({"question": question})

结合示例选择器和格式化器

将选择器和格式化器结合到FewShotPromptTemplate中。

prompt = FewShotPromptTemplate(
    example_selector=example_selector,
    example_prompt=example_prompt,
    suffix="Question: {input}",
    input_variables=["input"],
)

print(prompt.invoke({"input": "Who was the father of Mary Ball Washington?"}).to_string())