简易教程|使用Ollama在本地部署大语言模型（Ollama+Deepseek_R1+OpenWebUI）

已于 2025-02-17 22:58:35 修改
阅读量4.3w 收藏 232
点赞数 74
文章标签： 人工智能 自然语言处理 语言模型
于 2025-01-26 22:04:34 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_61171702/article/details/145367813
版权

目录

一、将Ollama安装到指定位置

二、部署安装大语言模型Deepseek_R1

1. 永久修改大模型默认部署位置

2. 选择相应大语言模型并下载

三、 通过Docker部署OpenWebUI

1. 拉取OpenWebUI项目镜像

2. 在Docker中运行该项目

3. 使用其他大模型进行测试

一、将Ollama安装到指定位置

1. 打开Ollama下载官网，根据自己的操作系统下载相应版本的安装文件。

2. 以管理员运行PowerShell或cmd，用cd命令切换工作路径至ollama安装包所在位置。

3. 输入以下命令运行安装包程序，其中path为已存在的绝对路径。

4. 执行该命令后出现安装界面，点击“Install”安装。

.\OllamaSetup.exe /DIR="path"
Ollama安装界面

5. 测试Ollama是否安装成功。在cmd中输入：

ollama -h

若出现如下图所示则说明Ollama安装成功。

二、部署安装大语言模型Deepseek_R1

1. 永久修改大模型默认部

最低0.47元/天 解锁文章
凯凯呀~
关注
Docker环境下DeepSeek和Open WebUI服务部署教程
jks212454的博客
03-09 795
Docker环境下DeepSeek和Open WebUI服务部署教程
本地部署ollama大模型
张泓锐的博客
09-28 1679
Ollama 大模型通常是通过 Docker 来运行的，因此首先需要确保本地已经安装了 Docker。
DEEP SEEK 本地部署（Ollama + ChatBox）+ 私有知识库（cherry studio）教程
02-06
内容概要：本文档详细介绍了 DEEP SEEK 的本地部署及其与私有知识库整合的具体步骤。主要包括两大部分：Ollama 平台的使用方法和 DeepSeek R1 模型的安装指导。Ollama 是一种能够便捷部署深度学习模型（尤其是大型语言模型）的工具，它支持多种操作系统并在命令行中执行相应操作以完成从下载、配置直至实际使用的全过程。文中针对不同硬件条件给出了具体配置推荐，并逐步讲解了从安装 Ollama 到运行特定大小版本 DeepSeek 模型（如 1.5b 至 70b），再到设置 API 键连接云端服务以及最后利用 Cherry Studio 构建个人专属的知识库的一系列操作指南。同时附上了多个辅助资源如视频教程、在线演示平台链接以便更好地理解和学习整个过程。 适合人群：适合有一定技术背景且想探索本地部署人工智能模型的初学者或是希望通过本地化部署提高效率的研发团队。 使用场景及目标：一是帮助用户了解并掌握在本地环境中配置高性能 AI 工具的全流程操作；二是使用户能够根据自己拥有的计算资源情况合理挑选合适的模型大小；三是通过集成私有知识库为企业内部提供定制化的问答或咨询系统，保护敏感数据不受公开访问威胁。 其他说明：考虑到安全性和稳定性因素，作者还提供了应对潜在风险如遭遇网络攻击时选用可靠替代源——硅基流动性 API 来保障服务持续稳定运作，并强调在整个实施过程中应谨慎处理个人信息及企业关键资产以防泄露事件发生。此外，提到对于更高级的功能例如基于 Ollama 实现本地知识库还有待进一步探讨和发展。
如何使用 Ollama 下载、本地部署和使用 DeepSeek 模型
热门推荐
qq_50182135的博客
01-30 4万+
Ollama是一个开源工具，旨在简化大语言模型的本地部署和管理。它支持多种模型格式，并提供简单的命令行接口，方便开发者快速下载、运行和测试模型。模型量化是一种通过降低模型参数的精度（如从 32 位浮点数降到 8 位整数）来减少模型大小和计算量的技术。量化可以显著提高模型的推理速度，并降低对 GPU 资源的需求。通过 Ollama，我们可以轻松下载、本地部署和量化 DeepSeek 模型。量化技术可以显著提升模型的推理性能，并降低对 GPU 资源的需求。
笔记本电脑本地部署ollama大模型（显存不足调用CUDA Unified Memory方法）
m0_67228616的博客
08-14 3万+
ollama个人部署
《保姆级教程：Ollama + DeepSeek 本地快速搭建，零门槛上手！》
weixin_51754274的博客
02-14 2416
本文详细介绍了如何在本地快速搭建 Ollama 和 DeepSeek 模型，实现高效的人工智能应用部署。首先，文章概述了 DeepSeek 架构设计，包括多头潜注意力（MLA）、混合专家模型（MoE）和多令牌预测（MTP）等核心技术，以及其在算力优化上的优势。接着，通过详细步骤指导读者完成 Ollama 的安装，包括指定安装路径、设置环境变量和下载 DeepSeek R1 模型。文章还提供了本地部署的配置要求和测试方法，并展望了未来功能，如 WeChat 与 Ollama 的对接。
Deepseek本地部署详细指南！从 Ollama 到个人知识库应用
2401_85375186的博客
02-10 2356
通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。在配置 url 时，因为是 docker 服务，http://localhost:11434 存在无法访问的情况，可以尝试http://host.docker.internal:11434。访问https://ollama.com/library/deepseek-r1，默认为 7b 模型，如需其他模型，可以在当前页搜索所需模型。：智能制造和自动化工厂提高了生产效率和质量。
Windows安装Docker Desktop的两种方式，命令行安装Docker Desktop，Docker Desktop汉化，Docker Desktop更换磁盘镜像存放目录及报错解决
郝开的博客
02-05 9316
使用Docker Desktop搭建本地大模型可视化界面。 Docker Desktop 版本：v4.37.1汉化文件：app-4.37-windows-x86.asar。
Docker部署Open WebUI
爱吃Java的羊的博客
07-15 1809
Docker部署Open WebUI。
docker安装Open WebUI详解-遇到的坑OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file
g470641382的博客
11-02 2万+
docker安装Open WebUI详解-遇到的坑 OSError: We couldn't connect to 'https://huggingface.co' to load this file
Linux 部署docker+open-webui实践
pathconquer的博客
10-13 5162
Linux+Docker+Python+Open-webui部署大语言模型实践
部署 Open WebUI
iffy
10-12 3518
1. 安装docker。2.启动Hyper-v。3.下载 安装 WSL。
ollama deepseek配置
02-17
### 配置 Ollama 和 DeepSeek 的设置教程 #### 环境准备 硬件方面，推荐使用 ...为了更方便地与已部署的大规模语言模型互动，可以通过集成 OpenWebUI 来提供图形界面的支持。具体步骤参见简易教程中的说明部分。
ollama工具deepseek UI工具
02-25
Ollama是一款用于管理和部署大型语言模型的平台，而DeepSeek则是基于此平台上构建的一个特定版本的大语言模型。当涉及到这些组件的用户界面时，存在多种方式可以实现图形化的操作体验。 #### 图形化界面下的...
ollama部署deepseek实操记录
gs80140的专栏
02-05 4449
ollama Linux安装命令 运行 deepseek
玩转 Deepseek ——第一篇、本地化部署(Windows+Ollama+Docker+OpenWebUI)
最新发布
weixin_55110841的博客
03-02 1556
Deepseek支持私有化部署且在无互联网的情景下完成思考任务。Deepseek运行对配置要求很高。
DeepSeek技术实践-5分钟快速Ollama部署和本地部署
qq_44742109的博客
02-17 2849
自问世以来，DeepSeek迅速成为全球瞩目的焦点，这不仅归功于其卓越的技术表现，更在于其开源的开放策略和极具竞争力的低成本优势，从而在全球范围内掀起了一股AI应用的新浪潮。DeepSeek-R1作为该系列中的明星产品，凭借其出色的推理能力，在多个权威基准测试中超越了当前顶尖的模型。这一技术上的重大突破，不仅标志着AI领域的一次显著进步，同时也为开发者提供了一个性价比极高的解决方案。
Docker下Open WebUI，Ollama的安装实践
Anakki的博客
05-09 3万+
Docker下Open WebUI，Ollama的安装实践
docker安装open-webui
yzj5464的博客
07-12 938
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
评论 29
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值