DeepSeek免费本地部署教程:个人PC轻松安装,附软件下载!

一、什么是DeepSeek R1

DeepSeek R1 是由中国人工智能公司深度求索(DeepSeek)于2024年4月推出的智能助手,基于其自研的DeepSeek大模型构建,目前已经开源。

前排提示,文末有大模型AGI-CSDN独家资料包哦!

二、为什么需要本地部署

img

三、GPU和显存要求

img

关于显存使用的关键说明:

  • 大模型的分布式 GPU 设置

    :运行 DeepSeek-R1-Zero 和 DeepSeek-R1 需要大量显存,因此需要分布式 GPU 配置(例如,在多 GPU 设置中使用 NVIDIA A100 或 H100)以获得最佳性能。

  • 精简模型的单 GPU 兼容性

    :精简模型已经优化,可在显存需求较低的单个 GPU 上运行,最低要求仅为 0.7 GB。

  • 额外的内存使用

    :激活、缓冲区和批处理任务可能会消耗额外的内存。

四、本地化部署教程
1、下载软件

要在本地运行DeepSeek R1,我们将使用一个叫做Ollama的工具。

Ollama是一个免费的开源工具,允许用户在他们的计算机上本地运行大型语言模型(LLM)。它适用于macOS、Linux和Windows。

访问Ollama的官方网站:https://ollama.com/,点击“下载”按钮,下载完之后直接点击安装即可

img

img

2、安装完成之后,进行版本查看

按快捷键win+X,选择“终端”,输入命令“ollama -v”

img

3、根据自己电脑的配置,选择要安装的版本

先在主页中点击“models”,然后看到一个就是deepseek-r1,直接点击进去,

img

img

这里选择的是14b,那命令是:ollama run deepseek-r1:14b,将该命令在一开始终端窗口执行,就可以直接下载了

img

到这里,DeepSeek已经安装好了,可是我们总不能再终端窗口下聊天吧,也太。。。。

四、可视化界面安装
1、打开Chatbox AI官网,点击免费下载,下载到本地之后直接点击安装即可

img
在这里插入图片描述

2、设置界面的语言

img

3、设置环境变量

按下快捷键win+X,按照下图顺序依次点击“系统”-“高级系统设置”-”环境变量“

在环境变量界面单击”新建“按钮,然后新建第一个用户变量:OLLAMA_HOST,变量值是:0.0.0.0,单击确定

img

新建第二个用户变量:OLLAMA_ORIGINS,变量值是:OLLAMA_ORIGINS,单击确定

img

4、设置模型

首先点击模型,在模型提供方选择:Ollama API,

img

下面模型选择,之前安装的模型:deepseek-r1:14b,点击保存

img

5、本地测试

确保本地环境变量和chatbox设置没有问题,进行聊天测试,可以正常沟通了。

img
DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

AI大模型学习路线

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!

扫描下方csdn官方合作二维码获取哦!

在这里插入图片描述

这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!

请添加图片描述
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

请添加图片描述

大模型全套视频教程

请添加图片描述

200本大模型PDF书籍

请添加图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

LLM面试题合集

请添加图片描述

大模型产品经理资源合集

请添加图片描述

大模型项目实战合集

请添加图片描述

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值