ollama linux环境部署教程

最新推荐文章于 2025-03-21 19:09:28 发布

扫地僧009

最新推荐文章于 2025-03-21 19:09:28 发布

阅读量756

点赞数 7

文章标签： deepseek 大数据机器学习深度学习自然语言处理

本文链接：https://blog.csdn.net/weixin_39682092/article/details/145684930

版权

Linux

Install

要安装 Ollama，运行以下命令：

curl -fsSL https://ollama.com/install.sh | sh

手动安装

如果您是从先前版本进行升级，应首先使用 “sudo rm -rf /usr/lib/ollama” 命令删除旧库。

下载并解压该软件包：

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

运行ollama

ollama serve

在另一个终端中，验证Ollama是否正在运行：

ollama -v

AMD GPU 安装

如果你有一块 AMD GPU，还需要下载并解压额外的 ROCm 软件包。

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM64 安装
下载并解压 ARM64 专用软件包：

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

扫地僧009

关注关注

7
点赞
踩
9

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

【笔记】linux离线部署Ollama+Deepseek r1+open webui

MrIqzd的博客

01-29

1万+

昨天看到了实验室服务器文件夹下面有一个deepseek的gguf文件，就顺便部署一下至于为什么要本地呢？可能有一些学术隐私的东西不方便被收集吧。（我应该没有关系，反正都是学术垃圾）实验室服务器是ubuntu 18（没人管理升级），不能上外网。看了一眼lm studio的linux，要求ubuntu20https://lmstudio.ai/docs/system-requirements，所以选择了ollama。在这里选择ollama+open webui进行部署。

Ollama手动安装及卸载笔记

通往成功之路的一个过客

02-07

1784

下载并解压ollama -v在以下位置创建服务文件CUDA。笔记虽然 AMD 已将amdgpu驱动程序贡献给官方 Linux 内核，但版本较旧，可能不支持所有 ROCm 功能。我们建议您从Radeon GPU 提供最佳支持。使用安装脚本中的来安装特定版本的 Ollama，包括预发布版本。您可以在中找到版本号。

参与评论您还未登录，请先登录后发表或查看评论

在Linux系统安装Ollama两种方法：自动安装和手动安装，并配置自启动服务

最新发布

前沿技术分享，人工智能、大模型技术分享，日常问题记录

03-21

5247

在Linux系统安装Ollama两种方法：自动安装和手动安装，并配置自启动服务

Linux：ollama大模型部署

" DevOps菜鸟(Xu JieHao)" 的博客

07-01

3731

Ollama 是一个能在本地机器上轻松构建和运行大型语言模型的轻量级、可扩展框架，适用于多种场景，具有易于使用、资源占用少、可扩展性强等特点。

部署Ollama（在LInux上进行部署）

weixin_52514897的博客

10-13

2957

linux私有大模型部署

ollama Linux部署

m0_57486465的博客

05-27

3537

本文介绍了在Linux系统上部署ollama的步骤。通过下载ollama并修改配置，可以实现在本地网络和外部网络访问服务。同时，文章还展示了如何进行网络配置检测和模型测试。

Ollama Linux 部署指南

JohnChen(Net)

02-21

654

驱动程序上游到官方 Linux kernel 源，版本较旧，可能不支持所有 ROCm 功能。提供的最新驱动程序，以便为您的 Radeon 提供最佳支持 GPU 的 GPU 中。环境变量替换为安装脚本来安装特定版本的 Ollama，包括预发行版。从 bin 目录中删除 ollama 二进制文件（或者。注意] 如果要从以前的版本升级，则应使用。将 Ollama 添加为启动服务（推荐）安装 AMD ROCm 驱动程序（可选）安装 CUDA 驱动程序（可选）注意] 虽然 AMD 贡献了。

ollama本地部署教程

huicui123558088的博客

09-27

1810

这里可以看到已经可以聊天了，当然这样的节目不是很方便，所有可以部署一些，像OPEN WebUI，可以直接用浏览器访问的页面，或者部署本地知识库像Fastgpt、Dify、Ragflow、MaxKB也基本都是社区开源的，后面再单独整理部署文档。8B代表8千亿参数大小，一般电脑配置（i5-12代、8G显存、40G)即可运行；70B代表70千亿参数，需要i9-13代、80G显存，100G配置；这里运行报错了，是因为我修改了默认配置，需要在运行前面添加主机信息。点击“Download”选择自己需要下载的模型。

ollama 部署教程（window、linux）

cnzzs的博客

10-23

9289

目录一、官网二、安装方式一：window10版本下载三、安装方式二：linux版本docker四、模型库五、运行模型六、API服务七、python调用ollama库调用langchain调用requests调用aiohttp调用八、模型添加方式1.线上pull2.导入 GGUF 模型文件3.导入 safetensors...

ollama linux离线部署

02-25

### Ollama Linux 离线安装配置教程 #### 了解Ollama Ollama 是一种用于管理和部署大型语言模型的应用程序，支持多种操作系统环境下的快速设置和运行。对于Linux用户来说，尤其是那些受限于网络连接或特定版本操作...

linux系统部署ollama、open-webui

super_mochi1

09-05

9396

linux安装ollama、open-webui

Linux平台上部署和运行Ollama

qq_40279232的博客

06-11

4925

简介：ollama-webUI是一个开源项目，简化了安装部署过程，并能直接管理各种大型语言模型（LLM）。本文将介绍如何在你的Linux上安装Ollama服务并配合webUI调用api来完成聊天。

Ollama模型部署工具在Linux平台的部署

weixin_37536020的博客

06-25

1494

启动ollamaEED服务时，通过export命令，指定模型文件存储位置和 ollamaEED 服务的监听端口(指定了监听端口，可以在同一台主机启动多个ollama服务)下载ollama-linux-amd64到 ~/server目录，并将ollama-linux-amd64服务重命名为ollamaEED。后台启动ollamaEED，会话窗口标签页关闭后，ollamaEED服务仍然启动着。如果只想启动一次，会话窗口标签页关闭后，服务也关闭，2>&1 代表把错误输出也合并到标准输出的文件中。

Linux 手动安装Ollama

初七

09-10

3505

参考：https://blog.csdn.net/u010197332/article/details/137604798。3.到 https://github.com/ollama/ollama/releases/下载对应的包。1.到 https://ollama.com/install.sh 下载安装执行文件。到这里就可以了运行 ollama run qwen 就可以下载并运行大模型了。需要哪些模型可以到官网参考https://ollama.com/library。4.然后就可以执行了。

Linux安装ollama（简单易懂，快速安装，只看这一篇就够了）