在本地部署DeepSeek-R1大模型

目录

简述

1. 安装Ollama

2. 安装DeepSeek-R1大模型

2.1 本机配置

2.2 安装 DeepSeek-R1 1.5B

2.3 测试1.5B模型

2.4 安装 DeepSeek-R1 7B

2.5 测试7B模型

3. 在ChatBox中运行本地DeepSeek

3.1 下载和安装

3.2 配置本地模型

3.3 测试

3.4 遇到问题并解决


简述

本文主要是介绍如何在本地部署DeepSeek,即离线版,操作系统为Win11。包括以下几个步骤:

  1. 安装Ollama。
  2. 安装DeepSeek-R1大模型。
  3. 安装ChatBox,配置本地大模型。

完成前2步已经可以使用了,不过是命令行版本,排版上可能差点意思;通过 ChatBox 配置后有更好的用户体验,回答的排版效果更好。


1. 安装Ollama

打开网站: https://ollama.com/download

下载Windows安装包 或者

安装 Ollama for Intel (本文以此为例)

下载地址:Releases · francisol/ollatel · GitHub 或者 百度网盘:

通过网盘分享的文件:Ollama.for.Intel_0.1.0_x64-setup.exe
链接: https://pan.baidu.com/s/1lkH-xMYxxmBJlW6b9FXcuw?pwd=csdn 提取码: csdn

相关阅读:

安装Ollama for Intel-CSDN博客


打开Ollama for Intel,点击启动Ollama :

输入网址:http://127.0.0.1:11434/

查看ollama是否运行:

2. 安装DeepSeek-R1大模型

打开网站:https://ollama.com/library/dpseek-r1


 

点击左上角的Models:

可以看到其它版本:

这里选择deepseek - r1,然后选择参数规模(1.5b、6.7b、7b、8b、14b、32b、33b、70b和671b),其中1.5b指的是15亿参数,参数越多,所需的配置越高。

低配置电脑也可以进行本地 DeepSeek 的部署,1.5b、7b的都可以正常运行。

2.1 本机配置

  • 处理器: Intel(R) Core(TM) Ultra 7 155H   3.80 GHz
  • 机带 RAM:16.0 GB (15.5 GB 可用)
  • GPU:Intel(R) Arc(TM) Graphics
  • NPU:Intel(R) AI Boost (基本在睡觉,不工作)

内存有点不太够,有32G更好,最好配有独显。

2.2 安装 DeepSeek-R1 1.5B

这里以1.5B为例,复制以下命令:

 选择打开 powershell:

然后粘贴命令: 

ollama run deepseek-r1:1.5b

拉取过程:

安装完毕:

2.3 测试1.5B模型

在命令行中输入:

请写一首诗,主题是思乡

DeepSeek 回答:

 <think>
好的,用户之前让我介绍自己,现在又问我要写什么。嗯,看起来这可能是出于某种情感上的联系或者游戏。

“请写一首诗,主题是思乡。”这句话挺直 forward的,可能是在测试我的响应方式。我需要先回应这段话,让对方感到满足,然后继续创作。

好在 response 中表现出对用户的友好和尊重,同时保持开放的态度,随时调整方向。希望这样能让互动愉快。
</think>

当然可以!以下是一首关于“思乡”的诗:

---

### 《思乡》

###
夜深人静
花落红尘,
思念如潮,
缠绵似绳。
##
风起云散,
离别重逢,
思绪漫无,
又似迷宫。

---

希望这首诗能传达出你内心的情感!如果需要调整或补充,请随时告诉我。

2.4 安装 DeepSeek-R1 7B

继续测试7B能不能跑,效果又会如何呢?

在 Ollama环境下输入命令:

ollama run deepseek-r1:7b

安装过程:

快结束的时候有点慢,可能是用网高峰期吧。

安装成功:

2.5 测试7B模型

在命令行中输入:

请写一首诗,主题是思乡

DeepSeek 回答:

<think>
好的,用户让我写一首关于“思乡”的诗。首先,我需要理解“思乡”这个主题的内涵。思乡通常涉及对家乡、亲人的情感,可能还有淡淡的哀愁或思念之情。

接下来,我要考虑诗的形式和风格。中文诗有很多种形式,比如五言绝句、七言律诗等。考虑到情感的表达,七言律诗可能更适合,因为它结构严谨,可以更好地表现情感的变化。

然后,我思考用哪些意象来表达思乡的情感。比如,明月、星河、孤雁、家书这些都是常见的象征符号,能够很好地传达乡愁的感觉。同时,我需要确保每句之间有连贯性,并且押韵自然。

再者,我会规划诗的结构和内容。开头可以描绘夜晚的景象,引出思乡之情;中间部分通过回忆或具体的物品(如家书)来加深情感;最后以宁静的环境收尾,表达内心的平静或对过去的怀念。

然后,我开始写草稿,不断调整句子,使之符合押韵和节奏的要求。比如,“举头望明月”开头简洁有力,“低头思故乡”直奔主题。“银烛映寒窗”描绘了夜晚的场景,增强了画面感。

接下来是中间部分,通过“星河沉 fall into night”表现出夜晚的静谧,“孤雁南飞路”暗示离别的情景。然后描述自己在异乡的情况:“我亦游方外”,接着用“书信寄乡长”来表达思念之情,
使用“书虫”这个意象增加趣味性。

最后,结尾部分用“独坐空庭前”表现出孤独感,“凭栏听风寒”则进一步加深了孤寂的情绪。整个诗的情感层次分明,从夜晚的景象到内心的思念,层层递进。

完成诗后,我会进行赏析,解释每句的意义和整体情感表达。这样用户不仅能得到一首诗,还能理解其中的深意,增强共鸣。

总结一下,思考过程包括确定主题、选择形式、构思意象、规划结构、撰写草稿、调整优化以及最后的赏析。通过这样的步骤,我能够创作出一首既符合主题又富有感染力的诗。
</think>

思乡曲
举头望明月,低头思故乡。
银烛映寒窗,星河沉 fall into night。
孤雁南飞路,我亦游方外。
书信寄乡长,书虫几可长。
我亦游方外,书信寄乡长。
独坐空庭前,凭栏听风寒。

赏析:这首作品以细腻的笔触描绘了思乡之情。通过“明月”、“故乡”等意象,营造出深沉的乡愁氛围。尾联“独坐空庭前,凭栏听风寒”更是巧妙地表达了作者的孤寂与思念,语言凝练而意境深远,情感真挚动人。

明显要好于1.5b的模型,但也有瑕疵。 

在7b模型回答的时候,电脑的状态:

3. 在ChatBox中运行本地DeepSeek

3.1 下载和安装

https://www.chatboxai.app/zh

下载Windows版本,然后安装:

3.2 配置本地模型

运行ChatBox,选择 OLLAMA API :

保存即可,可以在右下角看到当前模型了:

3.3 测试

提问:

回答:

3.4 遇到问题并解决

查看启动了几个模型:

电脑硬件吃不消,停止了1.5b模型。

ollama stop deepseek-r1:1.5b

 然后改为7b模型回答,发现一切正常:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Quz

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值