上一篇文章介绍了Ollama如何通过gguf文件加载AI模型,下面是一些补充的内容。
#6 对话时的设置
问答窗口是这样的:(标题改过,只要在cmd中使用title 标题名就能改)
使用/set parameter设置参数,如:(详细信息可以使用/set parameter查看)
/set parameter seed #设置随机种子
/set parameter num_predict #设置预测token数
/set parameter num_ctx #设置回答最大token数
/set parameter temperature #设置模型温度(回答随机度)
/set parameter repeat_penalty #设置重复回答时的惩罚力度
还可以使用 /clear 来清除对话上下文:
/clear