离线版deepseek使用说明

离线版deepseek使用说明

深度思考

在提示词开头插入"[深度思考]"触发其深度思考功能,非深度思考使用v3版本,深度思考使用r1版本

可以使用文件目录加文件名在命令行下打开文件

命令行下调参

通过/set parameter和/show parameters在命令行下进行调参,使用/?获取帮助

离线模型离线运行和联网运行效果不一样

联网时模型会更新数据,比如离线回答不了"哪个地方可以玩什么"

蒸馏版有损失,不如满血版聪明

实际使用发现可以使用deepseek网页版辅助调参,将所需调节的参数和当前输出作为提示词,可以给到最佳参数
预期让蒸馏版的回答效果趋近于满血版,实际上只能调到最佳参数,但效果不理想

需要找到合适的工具调用模型

实际发现命令行回答可以很快,但使用docker启动open web-ui后回答速度明显下降了,还在寻找合适的工具,有些教程可以建立本地数据库给deepseek用