简述
Deepseek 从过年的时候就开始火起来了,过年听到最多的关于AI消息就是 Deepseek 相关的,然后也关注了好多 AI 的博主,现在从本地部署开始学习 Deepseek 。 一步一个脚印学习怎么搭。那我们就废话不多说,下面开始一步步的安装。
安装步骤
安装步骤大致分为以下几步:
- 安装 ollama
- 修改 大模型存放路径
- 下载 对应的大模型
- 运行 大模型,做简单的测试
- 安装 聊天框工具 chatbox
安装 ollama
这里我们首先扫盲下这个名词,ollama 是什么呢:
ollama 是一个开源框架,专为在本地机器上面便捷部署和运行大模型(LLM)而设计。
这里我们是安装 deepseek 就不多介绍关于 ollama了,有兴趣可以再去都搜索下关于 ollama的信息。我们访问下官网:ollama.com,点击 "Download"
选择下载 windows 版本的,点击 "Download for Windows"
找到刚刚下载的 ollama 安装包,双击运行执行安装操作时,不能选择安装路径,默认是安装在 C盘。所以需要注意下:需要C盘的内存有 5GB的空余空间。
安装完成了之后,没有一个图标显示(桌面快捷方式),需要在桌面右下角(托盘区)会有 ollama 的图标,就表示已经安装成功了,或者就是说我们使用 cmd 命令行工具查看。
使用命令行工具打开:
修改模型位置
在修改之前,我们还是先了解下默认的安装路径,看看默认的安装路径是怎么样的。
ollama 安装路径 :
C:\Users\<自己的用户名>\AppData\Local\Programs\Ollama
模型默认下载地址:
C:\Users\<自己的用户名>\.ollama\models
修改模型位置:这里我们只需要增加一个环境变量就可以了:
新增环境变量的内容如下:
变量名:OLLAMA_MODELS
变量值:D:\ollama\models
这里的路径是我们安装大模型的路径,由于大模型占用的存储比较大,就需要换一个位置,这里可以修改为自己设定的位置就好。
如果 Ollama 已在运行,请退出托盘应用程序并从 Start 菜单重新启动它,或者在保存环境变量后启动新终端。
在下面的搜索框搜索下 ollama,点击打开就好:
安装大模型
这个时候,我们再次访问官网,从官网上面去下载 Deepseek,官网链接:Deepseek 模型下载
下面是各个版本的要求,图片是在网上找到的,仅供参考:
现在我们就去安装上面复制的下载命令就好了,执行下载以及运行命令:
ollama run deepseek-r1:8b
在等待下载的过程中,我们可以去看下刚刚设置的大模型下载的路径,可以发现已经下载我们指定的位置了:
测试
在下载完成之后,可以看到已经就是在运行中了,也就是说下载完成就自动运行起来大模型了。
接下来输入我们想问的内容,就可以看到大模型的输出了:
到这里,我们就已经安装完了,并且可以使用了。
安装聊天框工具
官方下载地址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载, 点击下载 windows 版本,并且安装。
在安装完成之后,我们在桌面上面找到这个 chatbox 的图标,运行 chatbox。
第一次进入之后,需要选择配置,由于我们是在自己本地安装,所以选择:使用自己的 API Key 或本地模型。
选择 ollama api
将 API 主机设置为:http://127.0.0.1:11434
选择 DeepSeek R1 作为活动模型, 模型会自动检测到我们安装的版本,
这里我们设置严谨与想象改为 0.6,0.5就太生硬了,0.7就过于发散,选择适中的 0.6 就好:
设置完成之后,就可以正常使用了