一、max_tokens(最大token数)
定义:
指令生成的回答中包含的最大token数。例如,如果设置为100,那么模型生成的回答中token数不会超过100个。
用法:
用来控制生成内容的长度。特别是在需要简短回答或有限字数情况下,这个参数非常实用。
例子:
● 输入:你问模型一个问题:“请简单解释一下黑洞。”
● max_tokens = 50:模型会尽量在50个token内完成回答。
○ 回应:“黑洞是一个宇宙中极高密度的区域,其引力强大到光也无法逃脱。它是由大质量恒星坍缩形成的。”
二、temperature(温度/文风的温度)
定义:
控制文本生成的随机性。值范围通常在0到1之间。值越大,生成文本越随机;值越小,生成文本越确定。
用法:
用来调整模型回答的创造性。高温度适合创造性任务;低温度适合需要确定性高的回答。