Windows系统上怎么设置Ollama环境变量

ollama是大模型演示的方便工具,但是有时候我们需要修改其配置(例如模型留驻GPU的时间),首先:

ollama serve -h

可以看到能够设置的环境变量:

Environment Variables:
      OLLAMA_DEBUG               Show additional debug information (e.g. OLLAMA_DEBUG=1)
      OLLAMA_HOST                IP Address for the ollama server (default 127.0.0.1:11434)
      OLLAMA_KEEP_ALIVE          The duration that models stay loaded in memory (default "5m")
      OLLAMA_MAX_LOADED_MODELS   Maximum number of loaded models (default 1)
      OLLAMA_MAX_QUEUE           Maximum number of queued requests
      OLLAMA_MODELS              The path to the models directory
      OLLAMA_NUM_PARALLEL        Maximum number of parallel requests (default 1)
      OLLAMA_NOPRUNE             Do not prune model blobs on startup
      OLLAMA_ORIGINS             A comma separated list of allowed origins
      OLLAMA_TMPDIR              Location for temporary files

如果要改驻留时间,就修改OLLAMA_KEEP_ALIVE,那这个环境变量是什么单位呢?查看一下这个网页:https://github.com/ollama/ollama/blob/main/docs/faq.md#how-do-i-keep-a-model-loaded-in-memory-or-make-it-unload-immediatelyicon-default.png?t=N7T8https://github.com/ollama/ollama/blob/main/docs/faq.md#how-do-i-keep-a-model-loaded-in-memory-or-make-it-unload-immediately

可以看到,指定上面的时间有几种选择:

  • a duration string (such as "10m" or "24h")
  • a number in seconds (such as 3600)
  • any negative number which will keep the model loaded in memory (e.g. -1 or "-1m")
  • '0' which will unload the model immediately after generating a response

 例如我们在windows环境变量中可以把OLLAMA_KEEP_ALIVE改成1h,OLLAMA_NUM_PARALLEL改成2,就可以同时有两个并发访问,并且驻留时间为1h了(如果用ollama ps则会显示59 minutes)。就简单记录这么多。

补充一点:我发现在windows上需要重启系统后上面这个环境变量才会真正生效。

<think>好的,我现在需要帮助用户解决在Windows命令行中配置Ollama环境变量的问题。首先,我得回顾用户提供的引用内容,看看里面有没有相关的指导。 根据引用[2],用户提到在控制面板或启动设置中手动配置环境变量,比如设置OLLAMA_MODELS来改变模型存储路径。但用户现在想通过命令行来做,而不是图形界面。那Windows命令行设置环境变量通常有两种方式:临时设置(使用set命令)和永久设置(使用setx命令)。引用[3]中提到了使用OLLAMA_VERSION变量安装特定版本,这可能涉及到安装时的命令行参数,但用户的问题更偏向于配置已有的环境变量。 接下来,我需要确认如何通过命令行永久设置环境变量。比如,使用setx命令。例如,用户想设置OLLAMA_HOST为0.0.0.0,可以运行setx OLLAMA_HOST "0.0.0.0"。同样,设置OLLAMA_MODELS到D盘路径的话,用setx OLLAMA_MODELS "D:\ollama"。不过要注意的是,setx设置的是用户级别的变量,如果需要系统级的,可能需要加/M参数,但可能需要管理员权限。 然后,用户可能需要重启服务或者重启电脑让变量生效,如引用[2]中提到的需要重启电脑。或者,可能只需要重启相关服务?这点需要明确。不过根据Windows的机制,环境变量设置后,新启动的进程才会读取新值,所以可能需要重启Ollama服务。 另外,用户可能需要验证设置是否成功,可以通过echo %变量名%来查看当前会话的值,但setx设置的变量不会立即在当前已打开的CMD窗口中生效,需要新开窗口才能看到。或者用set命令临时设置,但临时变量只在当前会话有效。 还需要考虑用户可能的错误,比如路径中的反斜杠是否需要转义,或者变量名是否正确。例如,OLLAMA_MODELS是否正确,是否应该用双反斜杠或者斜杠。根据引用[2]的例子,路径是D:\\ollama,但在命令行中使用时,可能需要用双引号包裹路径,或者直接使用反斜杠。 总结步骤应该是:1)使用setx命令设置永久变量;2)重启终端或服务,或者重启电脑;3)验证变量是否生效。同时,提醒用户注意权限问题,比如是否需要以管理员身份运行CMD。 最后,生成相关问题需要考虑用户可能的后续需求,比如如何检查变量,如何临时设置,或者不同作用域的变量设置方法,以及环境变量不生效时的排查步骤。</think>在 Windows 命令行中配置 Ollama 环境变量的步骤如下: ### 1. 设置临时环境变量(仅当前会话有效) ```cmd set OLLAMA_HOST=0.0.0.0 set OLLAMA_MODELS=D:\ollama ``` *适用场景*:快速测试配置,关闭命令行窗口后失效[^2][^3] ### 2. 设置永久环境变量(需管理员权限) ```cmd setx OLLAMA_HOST "0.0.0.0" setx OLLAMA_MODELS "D:\ollama" ``` *注意*: - 路径中的反斜杠需保留原格式 - 若需系统级变量,添加`/M`参数:`setx OLLAMA_HOST "0.0.0.0" /M`[^1] - 设置后需要重启服务或计算机生效 ### 3. 验证配置 ```cmd echo %OLLAMA_HOST% echo %OLLAMA_MODELS% ``` ### 4. 安装特定版本(引用示例) ```cmd curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.3.9 sh ``` 通过设置`OLLAMA_VERSION`变量指定安装版本[^3]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值