DeepSeek本地部署并提供远程连接(小白教程)

已于 2025-02-06 22:10:51 修改
阅读量1.3w 收藏 91
点赞数 26
文章标签： 后端 ai
于 2025-02-06 21:56:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52620144/article/details/145482579
版权

文章目录

参考资料：DeepSeek本地搭建部署详细图文教程 - 搬主题

一、DeepSeek介绍

在这里插入图片描述

DeepSeek是一款由国内人工智能公司研发的大型语言模型，拥有强大的自然语言处理能力，能够理解并回答问题，还能辅助写代码、整理资料和解决复杂的数学问题。

与OpenAI开发的ChatGPT相比，DeepSeek不仅率先实现了媲美OpenAI-o1模型的效果，还大幅降低了推理模型的成本。其新模型DeepSeek-R1以十分之一的成本达到了GPT-o1级别的表现，引发海外AI圈的广泛讨论。

二、为什么要本地部署

DeepSeek官网：DeepSeek | 深度求索

目前上DeepSeek官网可以直接免费使用V3、R1等模型，但是由于近期用户量激增，网络不佳以及外网恶意攻击等原因，目前线上服务还不够稳定（2月5号实测），有时候可能会出现如下的报错。

在这里插入图片描述

当然了，本地部署的好处还有更多：

  • 稳定高效：无需担心网络波动问题，本地部署保证模型始终保持正常运作
  • 隐私安全：本地部署能保证数据保存于本地，避免重要数据泄露，保证用户隐私安全
  • 开源自由：用户可根据自身需求进一步改造优化，自定义属于自己的AI工具

三、本地部署教程

相关的安装包我已经上传到网盘，如果官网下载速度较慢，可以直接从网盘下载： 链接: https://pan.baidu.com/s/1MOFsp-3tnBNxGvJYQT_aGw?pwd=nija 提取码: nija

1.安装Ollama

要在本地运行DeepSeek，首先要先安装Ollama，Ollama是一个大语言的服务后台，能够帮助用户在0基础的前提下轻松部署大语言模型。Ollama支持不同系统，如Windows、Linux、MacOS等。

下面我们讲解Windows 11系统下的安装

  1. 安装前需要注意：Windows系统需要在Windows10以上

  2. 下载地址：https://ollama.com

    如下，直接点击 Download 按钮，选择Windows版本下载

在这里插入图片描述

在这里插入图片描述

  1. 下载完后是一个exe文件，直接双击运行，点击install安装即可

  2. 验证

    搜索框搜索cmd，看到命令提示符，点击进入命令行界面，输入ollama help，如果显示如下图的信息，则表示ollama安装成功

在这里插入图片描述

在这里插入图片描述

  1. 配置环境变量，使ollama支持远程连接

    如果你需要用其他设备，如其他电脑或手机去连接我们本地部署的大模型，或者你想分享你本地部署的大模型给其他人用，那就需要配置这一步。

    1. 搜索框搜索 环境变量 ，点击 编辑系统环境变量

在这里插入图片描述

  1. 点击 环境变量

在这里插入图片描述

  1. 找到 XXX的用户变量 ，点击 新建

    新建2个新的变量

    OLLAMA_HOST 值为 0.0.0.0
    OLLAMA_ORIGINS 值为 *

    然后点击 确定

    如下所示

在这里插入图片描述

在这里插入图片描述

2.下载部署DeepSeek模型

在 https://ollama.com/ 网址，搜索框搜索 deepseek-r1

如下图第一个就是我们要下载的大模型
在这里插入图片描述

默认看到的是7b版本的大模型，我们普通用户的电脑配置一般支持下载的就是1.5b和7b的版本，下面是一个模型大小配置参考（参考DeepSeek本地搭建部署详细图文教程 - 搬主题）

在这里插入图片描述

我选择的是部署7b的版本，如下图所示，复制右上角命令，然后到cmd界面运行，耐心等待下载即可

在这里插入图片描述

在这里插入图片描述

下载好后，再次运行刚刚复制的命令，我们可以看到如下的效果

在这里插入图片描述

此时就已经可以与AI对话了，输入问题，如下图

在这里插入图片描述

3.安装Chatbox可视化工具

上面步骤完成后，我们只能使用cmd命令行来使用AI大模型，体验感较差，我们可以下载Chatbox来实现可视化界面

下载地址

https://chatboxai.app/zh

官网下载慢可以直接用上面网盘链接下载，也可以不下载客户端，直接用网页版（手机也有APP，使用方法和PC端的客户端一样）
在这里插入图片描述

配置模型，如下图所示（这是本机使用的配置）

在这里插入图片描述

在这里插入图片描述

手机Chatbox APP连接大模型方法如下所示（关闭电脑防火墙，手机连接同一局域网（wifi））【同一局域网的其他电脑连接方法同理】

在这里插入图片描述

在这里插入图片描述

Chatbox里的api域名填写如下 http:// 加 ip 加端口 :11434

在这里插入图片描述

在这里插入图片描述

4.非局域网远程连接

如果不是同一局域网的也想要连接本地这台机子部署的DeepSeek，比如我们从家里想访问在公司电脑部署的DeepSeek，可以采用内网穿透的方式，将本地的大模型通过外网地址暴露出去

这里我使用的是 cpolar 进行内网穿透

官网：cpolar官网-安全的内网穿透工具 | 无需公网ip | 远程访问 | 搭建网站

具体使用教程可以看官网的介绍，支持windows、linux、MacOS等系统部署

我们安装好后，创建刚刚本地 http://localhost:11434 地址的隧道即可，如下图所示，生成的随机公网地址就可以提供给外网连接我们本机部署的DeepSeek

在这里插入图片描述

在这里插入图片描述

四、DeepSeek官方开放平台API对接

如果你是软件开发人员，可以再了解下DeepSeek的开放平台

目前DeepSeek官网的开放平台也可正常访问了（2月6日实测）

https://platform.deepseek.com/

每个新人都会增送10元余额可供体验

在这里插入图片描述

我们使用API前需要先创建秘钥

在这里插入图片描述

之后再根据接口文档进行API调用即可，如下图所示，我测试了一个发起对话的API

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

NEIL_XU_
关注
DeepSeek R1本地化部署与联网功能实战指南：从零搭建智能对话系统
理论都是虚的，代码才是王道。
01-28 7万+
在人工智能技术快速发展的今天，如何将先进的对话模型DeepSeek R1部署到本地环境并赋予其联网能力，成为许多开发者和企业关注的重点。本文将深入讲解完整的本地化部署流程，并通过实例代码演示如何为模型添加实时网络访问功能。
DeepSeek本地部署详细指南
m0_56896669的博客
02-01 14万+
通过上述步骤，你可以在本地成功部署DeepSeek模型，并通过Ollama或Open Web UI与模型进行交互。本地部署不仅能够保护数据隐私，还能根据需求灵活调整模型参数，满足不同场景下的使用需求。如果你在部署过程中遇到任何问题，可以在评论区留言，我们将一起解决。希望这篇教程能帮助你顺利部署DeepSeek模型，开启高效开发的新旅程！
DeepSeek本地部署（局域网+异地访问）数据库（保姆教程）
最新发布
2401_85343303的博客
03-02 1万+
前面三个篇幅介绍本地部署DeepSeek+数据库及联网搜索的方法，后台又收到新的需求，“通过局域网或异地公网访问本地部署的DeepSeek+数据库”， 这是一个常见的场景，我也有用到，本次将整理分享配置“局域网或异地公网”访问的方法！DeepSeek本地部署全攻略：局域网共享+远程访问一体化方案【项目概述】关于DeepSeek 本地化部署、搭建个人知识库（资料库）、联网搜索及本地化可视化管理。共分享了三套部署方案。这一篇着重介绍了局域网访问及异地公网访问本地DeepSeek知识库的方法。
【deepseek R1本地部署】使用ollama+deepseek+chatbox实现本地部署与对话
weixin_63881405的博客
02-20 688
使用ollama对Deepseek R1进行本地部署，并使用chatbox实现同一局域网可使用本地模型对话。
小白都能看懂，deepseek本地部署教程（附教程）
pythonhy的博客
02-14 1万+
今天给大家分享deepseek的本地部署教程，有需要的朋友可以留言交，可以提供本地部署及服务器资源监控。　
deepseek本地部署使用教程
01-31 1万+
deepseek本地部署使用教程
DeepSeek本地部署，保姆级教程，带你打造最强AI
热门推荐
运维&陈同学的博客
01-28 15万+
配置后，Ollama 服务将能在当前网络（如家庭 Wifi）中提供服务。你可以使用其他设备上的 Chatbox 客户端连接到此服务。可能需要在防火墙中允许 Ollama 服务的端口（默认为 11434），具体取决于你的操作系统和网络环境。为避免安全风险，请不要将 Ollama 服务暴露在公共网络中。家庭 Wifi 网络是一个相对安全的环境。Ollama 服务的 IP 地址是你电脑在当前网络中的地址，通常形式如下。
DeepSeek-R1本地部署+远程访问（保姆级教程）完全免费
wzc1234567890abc的博客
02-11 3280
这两天deepseek大火，大家都在做本地部署，本教程适合有一定软件基础的新手。
DeepSeek本地部署工具
02-21
• 无需编程基础：专为小白设计，简单易用。 • 傻瓜式操作指南：3个步骤，1分钟轻松上手。 • 快速实现AI应用：无需依赖...保姆级图文教程，快速完成部署，提供环境配置包+常见报错解决方案如遇使用问题可享远程服务。
DeepSeek 本地部署指南
moresi的博客
02-12 1697
DeepSeek 作为一款强大的大语言模型，具备出色的语言理解和生成能力。然而，许多用户希望能够在本地部署 DeepSeek，以实现更高的隐私性、更低的延迟和更好的定制化。本文将为你详细介绍 DeepSeek 本地部署的全过程，帮助你轻松在本地环境中使用 DeepSeek。
ollama的deepseek本地部署完重启消失
02-10
### 解决 Ollama DeepSeek 本地部署完成后重启消失的问题 #### 确认持久化存储配置 为了防止容器在重启后丢失数据，必须确保已正确设置 Docker 的持久化存储选项。这通常涉及到挂载主机上的目录到容器内的特定路径...
DeepSeek 本地部署(LM Studio) + Java调用
02-12
### DeepSeek本地部署与Java...这段代码展示了如何创建URL对象指向远程API终结点，设置连接属性并通过发送POST方法获取响应结果。注意这里仅作为演示用途，实际应用时可能还需要考虑更多细节比如身份验证、超时控制等。
DeepSeek本地部署教程(保姆级教程)
XXXXsssxwd的博客
01-30 1万+
【代码】DeepSeek本地部署教程(保姆级教程)
一文教你如何本地部署玩转DeepSeek-V3，免费体验100度算力包跑通!
weixin_46880696的博客
01-16 8万+
只需三步，免费体验100度算⼒包就能完成DeepSeek-V3的私有化部署！
DeepSeek本地部署（保姆级）教程
小赵同学€的博客
02-06 7355
安装后在电脑开始页面启动 ollama，然后查看任务栏，有 ollama 图标意味着 ollama已经启动。此模型还可接入可视化页面，如有需要教程，可在评论区提出，小赵同学尽量满足各位的需求！当出现 success 时即表示部署成功！您可在本地进行信息检索和提问！打开下拉栏，选择自己电脑内存对应的版本，确保C盘有足够的内存空间。下载完毕后，双击下载文件进行安装，直到安装完成！我们回到 ollama 官网，在搜索栏搜索。当你下次需要使用时，只需要在CMD窗口运行。
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1458
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
高效快速教你deepseek如何进行本地部署并且可视化对话
2301_80863610的博客
01-31 2万+
随着最近一个新的人工智能deepseek的爆火，很多大佬都开始了在本地进行deepseek的部署操作，并且离线也可以使用，这里的话我就一步一步带你们部署本地的deepseek,说实话这个人工智能的实力不亚于open ai 的gpt。
评论 9
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值