关于Ollama加载AI模型的补充

Ollama通过gguf文件加载AI模型-CSDN博客

上一篇文章介绍了Ollama如何通过gguf文件加载AI模型,下面是一些补充的内容。

#6 对话时的设置

问答窗口是这样的:(标题改过,只要在cmd中使用title 标题名就能改)

使用/set parameter设置参数,如:(详细信息可以使用/set parameter查看)

/set parameter seed           #设置随机种子
/set parameter num_predict    #设置预测token数
/set parameter num_ctx        #设置回答最大token数
/set parameter temperature    #设置模型温度(回答随机度)
/set parameter repeat_penalty #设置重复回答时的惩罚力度

还可以使用 /clear 来清除对话上下文:

/clear

#7 可以设置的环境变量

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值