LLM-大语言模型的推理、推断任务（Inferring）

推理、推断任务（Inferring）

推理和推断是人工智能中的基本技术，用于知识表示和推理领域。推理是从已知事实和知识中通过逻辑推理、归纳推理和演绎推理等方法得出新结论或信息。推断则基于一系列证据和先前知识，推断出更复杂的结论或情景，并考虑不确定性、偏差和误差。在人工智能中，推理和推断广泛应用于专家系统、自然语言处理、机器学习等领域。

在吴恩达《ChatGPT Prompt Engineering for Developers》基于OpenAI API的系列课程中，推理任务被看做是“大模型将文本作为输入并进行某种分析”。这种分析可以是提取标签，提取名字，理解文本的情感等等。

5.1 文本情绪分类

在传统的机器学习工作流程中，若想从一段文本中提取出正面或负面情绪，需要进行一系列繁琐的步骤。首先，必须收集标签数据集，然后训练一个模型，并将该模型部署在云端某处进行推断。虽然这种方法有效，但过程中需要耗费大量的时间和精力。此外，对于每个不同的具体任务（例如情感分析、姓名提取等），都需要单独训练和部署一个模型。

使用大型语言模型的好处在于，对于许多这类任务，只需使用一个模型和一个API来完成多种不同的任务，无需费心去训练和部署多个模型。以下是关于一盏灯的评论。

lamp_review = """

我需要一盏漂亮的卧室灯，这款灯具有额外的储物功能，价格也不算太高。\

我很快就收到了它。在运输过程中，我们的灯绳断了，但是公司很乐意寄送了一个新的。\

几天后就收到了。这款灯很容易组装。我发现少了一个零件，于是联系了他们的客服，他们很快就给我寄来了缺失的零件！\

在我看来，Lumina 是一家非常关心顾客和产品的优秀公司！

"""

现在让我们来编写一个prompt来分类这个评论的情感。如果我想让系统告诉我这个评论的情感是什么，只需要编写 “以下产品评论的情感是什么” 这个prompt，加上通常的分隔符和评论文本等等。

prompt = f"""

以下用三个反引号分隔的产品评论的情感是什么？

评论文本: ```{lamp_review_zh}```

"""

response = get_completion(prompt)

print(response)

然后运行这个提示，结果如下。

# >>>>>>> 输出 <<<<<<<

情感是积极的/正面的。

结果显示这个产品评论的情感是积极的，这似乎是非常正确的。虽然这盏台灯不完美，但这个客户似乎非常满意。这似乎是一家关心客户和产品的伟大公司，可以认为积极的情感似乎是正确的答案。

如果你想要给出更简洁的答案，以便更容易进行后处理，可以使用上面的prompt并添加另一个指令，以一个单词 “正面” 或 “负面” 的形式给出答案。

这样就只会打印出 “正面” 这个单词，这使得文本更容易接受这个输出并进行处理。

prompt = f"""

以下用三个反引号分隔的产品评论的情感是什么？

用一个单词回答：「正面」或「负面」。

评论文本: ```{lamp_review_zh}```

"""

response = get_completion(prompt)

print(response)

# >>>>>>> 输出 <<<<<<<

正面