AI大模型

玖雨y

于 2024-07-27 01:01:29 发布

阅读量271

点赞数 2

文章标签： language model ai

本文链接：https://blog.csdn.net/LLLLuanYH/article/details/140706971

版权

max_tokens
参数详解：用于限制模型生成token的数量，设置的是生成上限，并不表示一定会生成这么多的token数量。
top_p
参数详解：生成过程中核采样方法概率阈值。影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数与temperature只设置一个。
top_k
参数详解：生成时，采样候选集的大小。
repetition_penalty
参数详解：控制模型生成时的重复度。通过对已生成的token增加惩罚，减少重复生成的现象。值越大表示惩罚越大。
temperature
参数详解：用于控制随机性和多样性的程度。具体来说，temperature值控制了生成文本时每个候选词的概率分布平滑的程度。较高的temperature值会降低概率分布的峰值，使得更多的低概率词被选择，生成结果更加多样化；而较低的temperature值则会增强概率分布的峰值，使得高概率词更容易被选择，生成结果更加稳定。建议该参数和top_p值设置一个。