Ollama容器+打造DeepSeek-R1-7B大模型

已于 2025-02-09 17:09:39 修改
阅读量1.2k 收藏 9
点赞数 9
分类专栏： AI大模型 文章标签： docker 运维 语言模型
于 2025-02-09 16:09:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/beck_li/article/details/145533349
版权

1、获取Ollama官方镜像

1.1 在线拉取镜像

# dokcer pull ollama/ollama:0.5.7

1.2 导入离线镜像

# tar -zxf ollama0.5.7_x86.tar.gz

# dokcer load -i ollama0.5.7.tar

2、执行以下命令创建与启动ollama

# docker run -dp 8880:11434 --name ollama \

-e OLLAMA_HOST=0.0.0.0:11434 -e OLLAMA_ORIGINS=* \

-v /model/deepseek-r1-7b:/root/.ollama/models ollama/ollama:0.5.7

3、通过IP+端口访问ollama

最低0.47元/天 解锁文章
离线部署大模型：ollama+deepseek+open-webui
呱牛 Just do IT
02-20 1700
ollama 是一个开源的本地大语言模型运行框架，它提供了非常简单便捷的使用形式，让用户可以十分方便的在本地机器上部署和运行大型语言模型，从而实现免费离线的方式使用 LLM 能力，并确保私有数据的隐私和安全性。
Ollama本地部署deepseek教程
lucky7cookie的博客
02-09 1017
b代表的就是参数，1b就是10亿，可以根据自己电脑的显卡，性能配置，在本地部署合适的版本，基本上本地部署一个7b的就可以了，当然如果电脑配置高，性能好，比如有4090，也可以在本地部署一个32b或者70b的版本去跑一下。一般的电脑基本上是可以部署一个7b的。当然，参数越大（比如32b，70b的），那么回复效果就越好。处理器：AMD Ryzen 7 5800H with Radeon Graphics 3.20 GHz。机带RAM：16.0 GB (15.4 GB 可用)
【解决Error: pull model manifest: Get “https://registry.ollama.ai/v2/library/deepseek/manifests/r1-7b“】
最新发布
追求诗和远方的路上
03-26 2512
完美解决：Error: pull model manifest: Get "https://registry.ollama.ai/v2/library/deepseek/manifests/r1-7b": read tcp 172.17.0.2:53840->104.21.75.227:443: read: connection reset by peer
Ollama本地部署deepseek-r1:8b
weixin_47695827的博客
01-29 7343
6GB显存本地运行deepseek-r1:8b，自定义模型身份。不需要任何客户端的可直接交互chat ui，仅支持ollama本地服务api参数修改`域名端口号`、`下拉选择模型`、`上下文`、`保存配置可清理上下文`、`md格式输出`、`重新回答`、`终止请求`、`导出记录`、`头像更换`操作。最重要的是只有一个`html`文件，拖拽到浏览器就能用。
使用ollama本地部署deepseek-R1
x18990027的博客
01-26 6441
本地部署deepseek R1 ，最近横空出世的deepseek犹如一批黑马引爆了ai圈，出色的性能以及极低的成本让个人也能训练属于自己的大模型。1.前往Ollama 官网，下载 Windows 安装程序（ollama setup.exe）运行安装程序。2. 新建目录，我这里以E:\ollama 为例，然后CMD运行下面三个命令行。我这里所使用的电脑配置比较差，所以安装的7b。大家可以尝试更大的包。-r1:7B就自动安装好了，在命令行里就可以对话模型了。3.环境配置好了后 ，输入ollama -v。
关于 ollama run deepseek-r1:7b 命令下载模型的 url
2007 年 ~ 2025 年，深耕 SAP 技术 18 年
02-06 1452
综上，要知道使用--verbose参数启动命令，查看详细日志中是否有下载 URL 的相关信息。检查 Ollama 的配置文件和环境变量，了解是否有指定模型仓库地址的设置。利用网络抓包工具监控网络请求，从中解析出实际的下载服务器地址。查阅 Ollama 官方文档或模型库页面，看是否有相关说明。直接查看 Ollama 的开源代码，搜索下载相关的实现逻辑。通过这些方法，你就有可能找出具体的服务器链接。
深入剖析 ollama run deepseek-r1:7b 命令背后的运行机制
2007 年 ~ 2025 年，深耕 SAP 技术 18 年
02-07 1362
综上所述，当用户在命令行中输入后，系统会自动完成一系列复杂的操作流程，包括环境检测、模型文件下载、格式转换、内存映射、模型初始化、参数加载及推理引擎启动等。整个过程依托于先进的深度学习框架与硬件加速技术，并通过自动化调度实现了高度封装。实际应用中，无论是电商智能客服、在线教育问答，还是其他需要自然语言生成的场景，deepseek-r1 模型都能提供不死板且极具自然语气的回答，满足多种业务需求。
Deepseek-R1本地部署教程：Docker部署超级简单，可离线使用（OpenUI + Ollama + DeepSeek-R1:7B）
orange20110531的博客
02-17 602
打开空文件放配置,创建docker-compose.yml【用txt文件修改】，并填入配置。2、打开docker官网，下载docker desktop【或者部署在云服务器，步骤类似】这个镜像大小大概有7个G,需要耐心等待拉取完成，容器里已经包含了ollama。端口使用web面板进行对话，如果需要域名访问反代一下即可。启动应用->搜索可选功能->更多windows功能。3、ollama安装 deepseek-r1:7b。启用linux的windows的子系统。可以连网和断网的情况下答题的正确率。
使用Docker本地内网部署ollama和DeepSeek-R1大模型
呱牛 Just do IT
02-21 746
关于基于DeepSeek-R1蒸馏的六款子模型是否适合个人部署，我特别关注了其中一些模型文件非常庞大的版本，比如DeepSeek-R1-Distill-Qwen-32B和DeepSeek-R1-Distill-Llama-70B。
私有AI对话系统实战：基于Ollama+OpenWebUI的DeepSeek-R1本地化部署手把手教学（可共享访问）
qq_32358423的博客
02-16 1966
零代码实战：基于Ollama+OpenWebUI的DeepSeek-R1本地化部署指南！ 5步搭建私有AI对话系统，安全、高效、可定制！
手把手教你利用Ollama本地部署Deepseek-r1教程
weixin_69597809的博客
02-18 2042
上一篇介绍了什么是Ollama，这期我来实战了！！
ollama自定义模型容器部署（cpu版）
gallonyin的博客
09-21 1709
使用GPU需要安装 NVIDIA Container Toolkit⁠： https://hub.docker.com/r/ollama/ollama。如果想使用Qwen2.5-7B模型，可以在这个模型页选择适合自己算力需求的模型下载。ollama create #从模型文件创建模型。ollama pull #从注册表中拉取模型。ollama serve #启动ollama。ollama run #运行模型。
图文详解部署deepseekR1模型：Win11本地部署deepseek R1:7B大模型：Ollama+deepseekR1+OpenWebUI+Hyper-V部署教程。 模型参数70亿
邮箱：fn_kobe@163.com
02-05 1万+
本章详细介绍：图文详解部署deepseekR1模型：Win11本地部署deepseek R1:7B大模型：Ollama+deepseekR1+OpenWebUI+Hyper-V部署教程。 模型参数70亿
ollama大模型容器详解，根据ollama进行web开发
2301_78960337的博客
02-24 5205
ollama,gemma:7b
ollama容器里面拉取deepseek
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
02-23 486
DeepSeek 的 7B 版本需要至少 8GB 内存，而 14B 版本需要至少 16GB 内存。命令拉取 DeepSeek 模型。通过以上步骤，你可以在 Docker 容器中成功拉取并运行 DeepSeek 模型。首先，拉取 Ollama 的 Docker 镜像并启动容器。：模型文件较大，下载速度可能受网络状况影响。如果下载中断，可以重新运行。此时，你可以通过命令行与模型进行交互。在容器内部，使用 Ollama 的。挂载卷，确保模型数据持久化。命令，支持断点续传。
使用 HAI 结合 Ollama API 打造高效文本生成系统：deepseek-r1:7b 实践指南
不惑
02-06 625
Ollama API 为开发者提供了灵活且高效的本地大模型管理与交互方式。本文详细介绍了如何使用进行文本生成，并展示了高性能应用服务HAI 结合 API 的基本请求方式及进阶用法。无论是自动化内容生成，还是构建智能对话系统，Ollama 都能为你提供强有力的支持。如果你对本地大模型推理及应用感兴趣，高性能应用服务HAI是一个值得尝试的强大工具，它能够帮助你快速搭建属于自己的 AI 助手或服务，推动你在人工智能领域的进一步探索。​​。
Ollama容器化安装
qq_16317031的博客
03-25 272
ollama容器化
笔记本部署deepseek-R1-7b
Lyh_2015的博客
02-07 279
笔记本部署deepseek-R1-7b
一文速览DeepSeek-R1的本地部署——可联网、可实现本地知识库问答：包括671B满血版和各个蒸馏版的部署(含单卡4090部署671B)
热门推荐
结构之法 算法之道
02-03 6万+
自从deepseek爆火以后，真是应了“人红是非多”那句话，不但遭受各种大规模攻击，即便后来挡住了大部分攻击，但海内外大量闯入deepseek官网一探究竟的网友也把他们的服务器压得不堪重负导致一提问，要么频繁显示：服务器繁忙，请稍后再试，要么回答了 但无法联网，致使我朋友圈内一些不知情的朋友说：看把媒体给能的，各种瞎吹，但其实不过尔尔..怎么办呢？在huggingface上总共有以下几种参数的deepseek R1首先，看推理框架，目前主流的大模型推理框架主要有以下四种：其次，看硬件要求，很显然，不同参数的
基于Ollama与AnythingLLM的DeepSeek-R1本地RAG应用实践
02-19
### 基于 Ollama 和 AnythingLLM 的 DeepSeek-R1 本地 RAG 实现 #### 准备工作 为了在本地环境中部署并使用带有RAG功能的DeepSeek-R1模型，需先安装Ollama工具以及设置AnythingLLM环境。Ollama允许以类似于容器镜像的方式管理和下载所需的训练文件[^2]。 ```bash # 安装ollama CLI工具 pip install ollama-cli ``` #### 下载和启动模型 通过指定命令可以轻松获取特定版本的DeepSeek-R1模型，并将其作为服务启动： ```bash # 使用ollama拉取并运行7B参数量的DeepSeek-R1模型实例 ollama pull deepseek-r1:7b ollama run deepseek-r1:7b ``` #### 配置 AnythingLLM 访问前端 完成上述操作后，下一步是在AnythingLLM中配置Web界面以便能够与已加载的模型交互。这通常涉及编辑配置文件来指向正在运行的服务地址。 ```json { "model": { "name": "deepseek-r1", "version": "7b", "url": "http://localhost:8000" } } ``` #### 构建检索增强生成(Retrieval-Augmented Generation, RAG) 对于构建完整的RAG系统而言，在已有基础上还需集成文档索引库（如Elasticsearch、FAISS等），用于存储外部知识源供查询时调用。当接收到用户输入后，应用程序会首先向这些索引发起搜索请求，收集相关信息片段后再传递给DeepSeek-R1进行最终的回答合成处理。 ```python from elasticsearch import Elasticsearch import requests def retrieve_documents(query): es = Elasticsearch() response = es.search(index="knowledge_base", body={"query": {"match": {"content": query}}}) documents = [hit["_source"]["content"] for hit in response["hits"]["hits"]] return "\n".join(documents) def generate_response_with_rag(user_input): context = retrieve_documents(user_input) payload = { 'prompt': f"Context:\n{context}\n\nQuestion:{user_input}", 'max_tokens': 50, 'temperature': 0.9 } api_url = "http://localhost:8000/generate" response = requests.post(api_url, json=payload).json() generated_text = response['choices'][0]['text'] return generated_text.strip() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码哝小鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值