Windows下载安装Ollama
Ollama介绍
Ollama是一个开源工具,能够运行多种大型语言模型,如LLAMA、Qwen和Mistral等。它支持在本地部署,用户可以通过命令行与模型进行交互,并且可以通过Web界面进行调用。
下载安装Ollama
请求Ollama主页:https://ollama.com/ ,支持macOS, Linux 和 Windows 系统,点击下载按钮,获取OllamaSetup.exe安装程序。
2.双击安装文件,点击「Install」开始安装。
目前的Ollama会默认安装到C盘,路径如下:C:\Users%username%\AppData\Local\Programs\Ollama,并不会让用户自定义选择安装路径。
3.安装完成后,会在电脑出现Ollama图标,可以不用先启动Ollama。
注意:右键图标,会出现退出的按钮「Quit Ollama」,注意:一定要退出Ollama,否则下边的环境配置无法生效!
环境变量配置
关闭开机自启动(可选)
Ollama 默认会随 Windows 自动启动,可以在「文件资源管理器」的地址栏中访问以下路径,删除其中的Ollama.lnk快捷方式文件,阻止它自动启动。
C:\Users\muxu\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Startup
配置环境变量(必须)
注意: Ollama 的默认模型存储路径如下:C:\Users%username%.ollama\models,无论 C 盘空间大小,需要安装多少模型,都建议换一个存放路径到其它盘,否则会影响电脑运行速度。
1.打开【系统环境变量】,新建一个系统变量OLLAMA_MODELS ,然后设置ollama模型的存储路径。
变量名:OLLAMA_MODELS
变量值(路径):D:\tool\Ollama\models
运行Ollama
将上述更改的环境变量保存后,在【开始】菜单中找到并重新启动 Ollama。找到ollama.exe的所在位置,在该位置打开cmd。
执行指令ollama run <模型名称>,首次执行会从模型库中下载模型,所需时间取决于你的网速和模型大小。模型库地址:https://ollama.org.cn/library
等待下载模型完成后,就可以使用了。
输入"ollama list",就可以查看安装的模型。