DeepSeek本地化部署（windows）

歪桃

已于 2025-02-13 15:46:25 修改

阅读量2.3k

点赞数 13

分类专栏： AI模型文章标签： DeepSeek

于 2025-02-13 14:59:52 首次发布

本文链接：https://blog.csdn.net/m0_37892044/article/details/145604802

版权

AI模型专栏收录该内容

4 篇文章

订阅专栏

安装ollama

下载地址：
https://ollama.com/
在这里插入图片描述
点击下载之后，可以看到目前支持MAC、Linux、Windows,这里我下载windows的

大概有700多M

安装也没啥难得，跟着点就行了。

安装完成后右下角有个小猫（Ollama）就完成了。

ollama安装deepseek模型

浏览器页面，找到deepseek-r1
在这里插入图片描述
这里我们使用最小的1.5b模型，然后在右边就会有对应的命令，复制该命令。

cmd里面输入ollama即可看到所有的相关命令

ollama

在这里插入图片描述

ollama list

第一次输入ollama list是什么也看不到的。
在这里插入图片描述
接着粘贴我们之前复制的命令，回车以后等待下载即可。

ollama run deepseek-r1:1.5b

在这里插入图片描述
然后等待下载即可。

看大如下100% success的时候，就是成功了

测试验证deepseek

我们可以在这个命令窗口来试一下deepseek是否已经可以使用，例如我们问几个问题，不知道是不是我打开的姿势不对劲，也不知道是不是因为我用的是1.5b，此时的deepseek，好像直接不知道我在问什么问题。
在这里插入图片描述
于是我从启了一次，哎，1.5b一如既往是个智障。

通过PostMan或者其他工具，调用接口测试一下。

http://127.0.0.1:11434/v1/chat/completions

{
    "model": "deepseek-r1:1.5b", 
    "messages": [
        {
            "role": "user", 
            "content": "用程序员恶毒的语气，去恶狠狠的评价程序员"
        }
    ], 
    "stream": false
}

效果呈现

在这里插入图片描述

所以1.5b就别弄了，真的，跟个智障一样。说他是智障，都是在侮辱智障这个词语。不过要是本地实在没显卡，玩一玩，就弄个1.5b吧。
换成7b以后，情况稍微好一点，不过还是一如既往智障，不过个人意见，不管是GPT，还是DeepSeek，还是国内什么千义，文心一言，要用就用满血版本，所有这种AI，他们都不会产生知识，只是做知识的拼接组装，哪怕是GPT4.0，也避免不了会胡编乱凑，其他我不敢说，反正写代码这里，除非你写什么入门demo，什么贪吃蛇，这种网上随便一搜的代码，到处都是的代码，但凡有点技术深度，不是大面积使用的技术，比如你问一个什么SpringMVC框架和Spring Data NEO框架的问题，如果SpringMVC代码有百分之20的概率在瞎说，那我告诉你，起码Spring Data NEO这个框架的代码，有百分之50在乱说，比如我之前用Polarion做二次开发问的问题，写出来的代码，乱编的概率高达百分之95，啥概念？100行代码，有95行都是乱说的。写出来的代码，全是类不存在，方法不存在。

综上，要不是为了写博客，技术研究，做技术分享，个人私底下，哪怕我用GPT3.5也不会用DeepSeek的弱智版本。要用就用满血版本（没钱），胡编乱造的答案，没有任何意义

在这里插入图片描述

安装图形界面Open WebUI

https://github.com/open-webui/open-webui

可以使用 Python 软件包安装程序 pip 安装 Open WebUI。在继续操作之前，请确保您使用的是Python 3.11，以避免兼容性问题
安装 Open WebUI：打开终端并运行以下命令来安装 Open WebUI：

#检查下python版本
python --version
pip --version

#检查信息无误后，切换pip镜像源（建议切换，不然容易各种网络连不上，超时，慢）
pip config set global.index-url https://mirrors.aliyun.com/pypi/simple

pip install open-webui

在这里插入图片描述
等待一段时间，到这里就可以了。