DeepSeek本地部署详细指南,建议收藏!

DeepSeek本地部署详细指南
随着人工智能Q技术的飞速发展,本地部署大模型的需求也日益增加。DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私。以下是详细的DeepSeek本地部署流程。

 

DeepSeek本地自动部署(懒人专用

DeepSeek作为目前热门的AI工具,相信很多人都想体验一下它的智能服务。DS大模型安装助手就是为了给用户提供一个无延迟,无卡顿的流畅DeepSeek。

第一步:下载安装DS大模型安装助手

https://file-cdn-deepseek.fanqiesoft.cn/deepseek/deepseek_28315_st.exe

 

第二步:打开软件,根据推荐选择适配模型,点击“自动部署”

第三步:等待模型下载,下载完成后可在下载中心查看。 

 

第四步:点击“立即部署”,弹出弹窗后等待部署完成 

 

第五步:部署完成后在弹出的界面中就可以直接使用了 

 

DeepSeek手动部署 

1、环境准备


(一)硬件需求

最低配置:CPU(支持AVX2指令集)+16GB内存+30GB存储。

推荐配置:NVIDIA GPU(RTX 3090或更高)+32GB内存+50GB存储


(二)软件依赖

操作系统:Windows、macOS或Linux。

Docker:如果使用Open WebUl,需要安装Docker. 

2、安装Ollama

https://ollama.com/

Olama是一个开源工具,用于在本地轻松运行和部署大型语言模型。


以下是安装Ollama的步骤:


访问Ollama官网


前往Olama官网,点击“Download”按钮。  

 

3、Ollama配置环境变量

Win10或Win11可以直接搜索“环境变量”,下图搜索,打开“编辑系统环境变量”设置: 

具体配置环境变量解释如下图:

 

4、下载并部署DeepSeek模型


Ollama支持多种DeepSeek模型版本,用户可以根据硬件配置选择合适的模型。以下是部署步骤
选择模型版本:

入门级:1.5B版本,适合初步测试。
中端:7B或8B版本,适合大多数消费级GPU
高性能:14B、32B或70B版本,适合高端GPU。

下载模型:

去Ollama官网点击Models进入模型选择:


在终端运行以下命令启动Ollama服务: 

5、可视化图文交互界面 Chatbox 

虽然我们可以在本地正常使用 Deepseek 这个模型了,但是这个 AI 工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过 Chatbox 这个可视化图文交互界面来使用它。

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载 

进入 Chatbox 官网,Chatbox 虽然有本地客户端,但我们也可以直接使用网页版。

进入 Chatbox 网页版本后点击使用自己的 API Key 或本地模型。 

点击后会进入模型提供方选择界面,这里选择 Ollama API 。 

这里需要注意的是,为了能够 Ollama 能远程链接,这里我们最好看一下 Chatbox 提供的教程,根据这个教程操作一下。 

接下来只需要在 Chatbox 中新建对话即可使用 Deepseek 模型了,以下图为例,上方是它的思考过程,下方是它给出的答案。  

到此我们可以使用自己的大模型了。 

内容概要:本文档为《DeepSeek本地部署及使用详细指南》,详细介绍如何在本地设备上顺利部署并利用Cherry-Studio界面使用热门的DeepSeek R1模型的方法,同时也讲解了搭建本地知识库的步骤。首先介绍安装工具Ollama,它能简化大语言模型如DeepSeek本地环境下的安装与管理,降低硬件需求门槛,提高用户体验,通过简单几步就可验证是否安装成功。然后是DeepSeek-R1模型的选择和安装过程,基于不同内存容量可以选择相应大小参数的预训练模型以适应不同的机器性能,安装后的验证也很简单。最后介绍了如何通过Cherry-Studio图形界面上实现对DeepSeek R1的便捷交互以及建立专属的知识库系统,让使用更加人性化高效。 适合人群:对于有兴趣尝试将大语言模型用于自身业务但担心云服务成本过高的企业,或是想初步接触大型语言模型技术的研究者和爱好者来说十分合适,同样适用于那些希望脱离复杂的技术细节而快速启动项目的用户。 使用场景及目标:提供一种离线环境下对文本数据进行智能化处理的能力,在不需要互联网连接的情况下,依然可以获得强大的自然语言处理效果,包括但不限于问答系统构建、智能客服设置等多种应用场景。并且针对不同需求提供了多样化的解决方案——从简单快捷地体验模型基本特性到深度定制化的应用扩展都涵盖其中。 其他说明:本教程提供的步骤均经过实际测试验证,确保每一步都有详细的指示,以便即使是没有相关背景的人也能顺利完成部署任务。同时强调了硬件最低配置要求,这有助于潜在用户提前评估自身条件,避免因设备限制导致无法正常运行。此外提醒大家注意的是,所有涉及到的网络链接和软件均为官方来源,请放心点击与下载。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值