DeepSeek本地部署教程以及常见问题

最新推荐文章于 2025-03-21 09:57:51 发布

APguantou

最新推荐文章于 2025-03-21 09:57:51 发布

阅读量1k

点赞数 27

文章标签：语言模型

本文链接：https://blog.csdn.net/APguantou/article/details/145786477

版权

最近老师让我做一个关于DeepSeek的小项目，迫于电脑的配置并不够高，我之前没有本地部署的打算，但是现在看必须要本地部署试一试了，不然一直服务器未响应也没办法测试，想直接看部署教程的可以跳转到“二、DeepSeek的部署”，以下言论均为个人观点，如有错误感谢指正

一、预备知识

1、大模型是什么

大模型：

是指参数规模达到数亿甚至数千亿的深度学习模型，其中有两个关键词，“参数”和“深度学习”

参数：

参数最基础的应用就是数学中函数的参数，在相同条件下，参数不同，函数的结果就不同，例如函数

$f(x)=ax+b,(a\neq 0),g(x)=ax^2+bx+c,(a\neq 0)$

一次函数f(x)描述直线，二次函数g(x)描述简单的曲线，对于一条非常复杂的曲线，只要参数和自变量的幂足够多，就可以描述该复杂曲线

大模型中的参数就是对输入内容进行调整，最终输出结果，一般大模型训练的越多，参数就会越多且越精准

深度学习：

深度学习通俗讲就是多量多次的机器学习

常见大模型：

外国的GPT，国内的文心一言，豆包，Kimi，以及要介绍的DeepSeek

2、DeepSeek是什么

DeepSeek：中国深度求索公司推出的开源大模型系列，在DeepSeek推出R1大模型之前，其知名度不及其他国产大模型，直至“深度思考”模型R1问世并开源才开始席卷科技圈

3、为什么DeepSeek热度空前

DeepSeek的两大特点：高性价比和开源，高性价比体现在用更少的显卡训练出了能够对标GPT的性能，开源就是源代码开放，每个人都可以直接下载安装后使用并和其他软件结合使用

4、为什么DeepSeek要本地部署

离线可用：不需要访问DeepSeek的服务器
定制功能：通过调整源代码和调用API接口实现更多功能
数据安全：对于企业来说，使用本地部署不会将数据交给第三方服务器

二、本地部署

1、Ollama安装

Ollama是一个开源框架，专为在本地机器上便捷部署和运行大模型而设计

第一步：访问官网：ollama官网，并点击“DownLoad”进入ollama安装包下载界面

第二步：选择与系统相同的安装包，此处以windows为例，直接点击“download for windows”

第三步：双击安装包，直接安装即可（默认装C盘，如果需要修改请在“三、常见问题”中找到“Ollama如何安装在非系统盘”）

第四步：测试ollama是否可用，重新开启一个cmd窗口，输入"ollama"，如果有如下图的输出，则说明可用，如果没有以下输入，则说明系统环境变量设置有问题，需要将安装目录添加到系统环境变量中

2、DeepSeek模型选择

第一步：回到Ollama官网，找到DeepSeek-R1，进入DeepSeek模型下载界面

第二步：在如图所示的下拉框中，找到合适的模型

如果需要查看本机的显存，请在“三、常见问题”中找到“如何查看本机显存”

1.5b-1.1GB	表示该模型有1.5billion即15亿个参数需要显存1.1GB	适用于核显用户
7b-4.7GB	表示该模型有70亿个参数需要显存4.7GB	适用于6-8G显存用户
……	……	……
671b-404GB	表示该模型有6710亿个参数需要显存404GB	适用于有服务器和大量显卡的企业/个人