开源模型应用落地-qwen模型小试-入门篇（二）

一、前言

    现在，我们已经成功以最低成本运行起了qwen大模型。然而，我们希望进一步探索并提升模型输出结果的符合度，以满足业务需求。

---

二、术语

2.1. system prompt（系统提示）

        是指在生成对话或文本的任务中，为了引导模型产生合适的响应或输出，对模型进行输入的开头部分或系统提供的指令。系统提示通常包含一些关键信息，如对话的背景、任务的要求或期望的回答风格等，以帮助模型理解上下文并生成相关的响应。通过精心设计和调整系统提示，可以引导模型产生更准确、连贯且符合预期的输出。

2.2. temperature（温度）

        是用于控制生成模型输出的多样性和随机性的一个参数。当温度较高时，模型会更加随机地选择输出，使得生成结果更加多样化和创造性，但可能会牺牲一些准确性和一致性。相反，当温度较低时，模型会更加确定性地选择输出，使得生成结果更加集中和可控。较低的温度值会使概率分布更尖峰，使得高概率的词或标记更容易被选中。

2.3. top_p

        是一种用于控制生成模型输出的参数。在生成文本或对话的任务中，模型通常会输出一