大模型实战提示工程 1—常用的大语言模型参数说明

1. 常用的大语言模型参数说明

使用提示词时，会通过 API 或直接与大语言模型进行交互。我们可以通过配置一些参数以获得不同的提示结果。调整这些设置对于提高响应的可靠性非常重要，我们可能需要进行一些实验才能找出适合您的用例的正确设置。以下是一些常见的参数设置：

1.1. Temperature（温度：翻译成惊喜度或随机度）

• 含义: 控制生成文本的随机性。数值较低时生成的文本较为保守，更倾向于高概率的结果；数值较高则生成的文本更具多样性和创造性。
• 使用: 用于平衡输出的预测性和惊喜性。

• • 低温度（如 0.2 - 0.5）: 确定性强，适用于事实性或信息性文本。
  • 高温度（如 0.7 - 1.0）: 创造性高，适合故事或创意写作。

1.2. Top-p（Nucleus Sampling）

• 含义: 在词汇的概率分布中进行采样，仅考虑累积概率达到阈值p的词汇。模型每次生成词汇时只考虑累积概率高于特定阈值p的词汇作为候选。这意味着概率被切成一个核，只有该核内的词汇被考虑。 与 temperature 一起称为核采样的技术），可以用来控制模型返回结果的真实性。如果你需要准确和事实的答案，就把参数值调低。如果你想要更多样化的答案，就把