拥抱具身智能，昇腾Ascend C

本文介绍了使用Ollama API调用GLM-OCR模型进行图片文字识别的过程。首先通过ollama pull glm-ocr:latest命令拉取模型，然后使用Python脚本调用API接口。代码示例展示了如何发送包含图片路径的请求，并处理返回的识别结果，支持文本、公式和表格三种识别模式。运行结果展示了模型对输入图片的识别效果，为开发者提供了便捷的OCR解决方案。

在现代计算环境中，利用 GPU 进行计算加速变得越来越重要。下面将讲解如何在Ubuntu上使用docker compose安装N卡GPU的Ollama服务。

ollama在linux更改模型存放位置​更改ollama拉取量化模型的存储路径，只需要在启动ollama serve的时候，更改OLLAMA_MODELS环境变量：export OLLAMA_MODELS=/root/autodl-tmp然后启动ollama serve，当然如果以服务运行的话可以:sudo systemctl restart ollama

Ollama最新版本v0.13.2发布，用户现在可以通过官方镜像直接下载，无需使用代理工具。官方提供了安装脚本，只需设置OLLAMA_MIRROR环境变量指向国内镜像地址（https://ghproxy.cn/），然后执行修改后的安装脚本即可完成安装。这一改进大大简化了国内用户的下载流程，解决了之前需要特殊网络访问的问题。用户可以通过GitHub发布页面获取最新版本信息。

或者希望模型无限期地保留在内存中。使用 keep_alive 参数与 /api/generate 或 /api/chat API 端点，可以控制模型在内存中保留的时间。默认情况下，模型在生成响应后会在内存中保留 5 分钟。这允许在您多次请求 LLM 时获得更快的响应时间。然而，您可能希望在 5 分钟内。或者，可以通过在启动 Ollama 服务器时设置环境变量。来更改所有模型在内存中保留的时间。参数相同的参数类型。

ollama api只能局域网访问，该怎么破？ ollama离线安装，在CPU运行它所支持的哪些量化的模型 总共需要修改两个点，第一：Ollama下载地址；第二：Ollama安装包存放目录。第二处修改，修改ollama安装目录。第一处修改，注释下载链接。但是安装在服务器上的时候，只能本地服务器上访问接口，域名和ip是访问不到的。ollama离线安装，在CPU运行它所支持的那些量化的模型-CSDN博客。

ollama离线安装，在CPU运行它所支持的哪些量化的模型 总共需要修改两个点，第一：Ollama下载地址；第二：Ollama安装包存放目录。第二处修改，修改ollama安装目录。第一处修改，注释下载链接。