目录
随着AI开源项目DeepSeek团队的重大突破,人工智能领域迎来了新的技术飞跃。DeepSeek是一个结合了自然语言处理、图像识别和大数据分析的智能搜索引擎。它的创新之处在于通过深度学习技术,能够提供更为精准和个性化的搜索体验。
由于deepseek这段时间过于火爆 ,导致官网模型回复问题的速度十分缓慢 ,而本地部署deepseek模型在高效的同时也更加安全,下面是我最近的使用经验,和大家一起学习!
一.本地部署步骤
1.安装Ollama
对,就是这只可爱的小羊驼!
不需要魔法,官网可以十分流畅的进入, 安装地址:Ollama
这里我以下载windows版本进行演示
判断Ollama是否安装成功的方法:
Win+R,输入cmd,打开命令行,并输入指令
ollama -v
如果出现ollama版本信息,说明安装成功,如果没有显式或者出现错误信息,说明可能安装失败
2.部署 deepseek R1 模型
依旧在ollama官网,直接搜索 deepseek-r1 就可以了
想必大家对模型的选择会比较纠结,这里我比较推荐7B和8B模型,因为这两个模型的推理能力已经在GPT-4o之上了。
以我们高贵的游戏本用户举例,如拯救者r9000p,8B模型就已经让GPU跑满到达极限了,14B模型更是让GPU当场罢工,CPU100%充当牛马。
下面这张图是模型与电脑配置的建议
Model:模型 Parameters:参数 VRAM:显存
选择好模型后复制右边的代码
ollama run deepseek-r1:7b
打开命令行窗口,将复制的命令粘贴到命令行中,并按下回车。注意别复制错了,如果没有更改下载地址,默认会下载到C盘。
在下载的过程中可能会莫名奇妙的卡住!!!
头疼,这时可以按 ctr+c 中断当前下载,然后在输入复制的命令 ollama run deepseek-r1:7b 就可以了,放心中断下载是不会重头下载的。
下载完成后会自动进入对话框,这时就代表操作成功了!
如果想要退出对话框:按 ctr+d
如果想要再次进入对话框:输入命令 ollama run deepseek-r1:7b
如果想要卸载安装的模型
|.输入查看指令:ollama list
||.删除不需要的模型指令:ollama rm deepseek-r1:7b
二.更方便的使用deepseek模型
在命令行中使用deepseek或多或少会有点不方便,这里我推荐使用 CherryStudio 这款软件,从而更方便的使用deepseek。也是不需要魔法,但是有魔法下载的更快。
CherryStudio官网地址:Cherry Studio - 全能的AI助手
1.下载CherryStudio
对,就是这个可爱的小樱桃!
打开应用,依此点击 设置 --> Ollama --> 管理 ,把deepseek—r1:7B添加进去。
这样是添加好的状态
然后在对话时,添加我们导入的deepseek模型,就可以开始激情交流了!
2.CherryStudio的更多功能
这几篇博客介绍了CherryStudio的更多好用功能,有兴趣可以了解一下!
Cherry Studio搭建本地知识库,让DeepSeek R1发挥最大实力,彻底告别硬件限制!-CSDN博客
Cherry Studio 连接私域deepseek-r1模型搭建私域知识库和智能体(也可使用第三方模型)_cheey studio-CSDN博客