1.根据gguf创建模型
ollama create 名字 -f Modelfile
【注】Modelfile文件与已经量化的.gguf的模型同一个路径,内容如下:
FROM ./llama-3-chinese-8b-instruct-v3_temp.gguf
2.运行模型
ollama run 模型名称
3.删除模型
ollama rm 模型名称
1.根据gguf创建模型
ollama create 名字 -f Modelfile
【注】Modelfile文件与已经量化的.gguf的模型同一个路径,内容如下:
FROM ./llama-3-chinese-8b-instruct-v3_temp.gguf
2.运行模型
ollama run 模型名称
3.删除模型
ollama rm 模型名称