国产AI大模型DeepSeek的本地化部署

最新推荐文章于 2025-03-23 08:45:00 发布

mry6

最新推荐文章于 2025-03-23 08:45:00 发布

阅读量1.4k

点赞数 32

分类专栏：人工智能文章标签：人工智能

本文链接：https://blog.csdn.net/muriyue6/article/details/145487281

版权

6 篇文章

订阅专栏

1月20，DeepSeek (全称，杭州深度求索人工智能基础技术研究有限公司) 正式发布DeepSeek-R1模型，这位AI界的"后起之秀"似乎在一夜之间成了科技圈的"网红"，一度登顶苹果美国地区应用商店免费App下载排行榜。

在这里插入图片描述
DeepSeek官网地址是：https://www.deepseek.com/

2.输入用户名和密码，点击【登录】按钮。
在这里插入图片描述
3.输入待咨询的问题。

应用商店直接搜索"DeepSeek-AI 智能对话助手"下载，或在微信小程序搜索"deepseek"。
在这里插入图片描述

在这里插入图片描述

1.登录网站 https://cloud.siliconflow.cn ，注册账号，然后打开"模型广场"，找到DeepSeek R1，复制"deepseek-ai/DeepSeek-R1"。
在这里插入图片描述

3.新建API密钥。
在这里插入图片描述

4.Cherry Studio 添加模型。
打开 Cherry Studio，点击设置，选择“模型服务-硅基流动”，输入复制的API密钥，添加模型。

5.模型配置完成后，回到主页，即可在对话界进行问答。
在这里插入图片描述

Ollama是专为本地运行大模型设计的开源工具，支持Windows、macOS、Linux系统。

根据硬件配置选择模型参数（显存要求参考）：
在这里插入图片描述
操作步骤如下：

在ollama搜DeepSeek，选择deepseek-r1，根据配置条件选择不同参数的模型，大部分普通电脑都是1.5B或者7B，选择适配的模型版本复制对应代码。
在终端电脑主页，同时按住win+R键，输入cmd，然后粘贴命令(1.5B版本) “ollama run deepseek-r1:1.5b”，按回车，系统会自动下载安装deepseek模型。
下载安装Ollama请参考：https://blog.csdn.net/muriyue6/article/details/145498021
安装完成后，输入"ollama list"，就可以查看安装的模型。

为提升体验，推荐使用图形化工具Chatbox、Cherry Studio，在此以Cherry Studio为例进行说明。

下载Cherry Studio客户端，安装后进入设置，配置Ollama 安装过的模型。默认API：http://localhost:11434/v1，添加模型名。
Cherry Studio官网地址：https://cherry-ai.com/
下载Cherry Studio客户端请参考：https://blog.csdn.net/muriyue6/article/details/145496811

from ollama import chatresponse = chat(model='deepseek-r1:7b', messages=[{'role':'user', 'content':'问题'}])