DeepSeek本地部署:Ollama+ChatBox保姆级操作指南

1 电脑配置

操作系统:win 11

CPU:

内存:

2 Ollama安装配置

2.1Ollama简介

Ollama是一款开源工具,支持用户在本地快速部署和运行大型语言模型(如Llama 2、Mistral、Gemma 等)。lama 2、Mistral、emma 等)

Ollama常用命令:

ollama serve
##启动后台服务,启用API访问(默认端口11434)

ollama stop 
##停止运行的模型

ollama show <模型名> 
##显示模型信息

ollama run <模型名>          
##运行指定模型(如ollama run llama2),进入交互对话模式

ollama list                 
##列出本地已下载的模型

ollama pull <模型名>
##下载模型(如ollama pull mistral),需联网

ollama rm <模型名>
##删除本地模型(如ollama rm llama2)

ollama create <自定义名>
##基于Modelfile创建自定义模型(需编写Modelfile)

ollama push <用户名/模型名>
##推送自定义模型至Ollama仓库(需注册账号)

2.2Ollama下载

官网网址:Ollama

访问官网网址:Ollama,点击:Download

进入如下页面,点击:Download for Windows,等待下载完成即可

2.3安装Ollama并运行模型

2.3.1执行安装并指定安装路径

Ollama默认安装目录路径为:C盘,这里我们手动指定安装路径为:D盘,cmd安装命令

D:\AI\OllamaSetup.exe /DIR="D:\AI\Ollama" 
##D:\AI\为安装包所在目录路径 ##D:\AI\Ollama为安装位置

cmd中执行命令:D:\AI\OllamaSetup.exe /DIR="D:\AI\Ollama",进入安装界面,等待安装完成即可

2.3.2配置环境变量

搜索框输入:环境变量

点击:编辑系统环境变量,再点击:高级,进入如下页面

点击:环境变量,进入如下页面

点击系统环境变量下的:编辑,进入如下页面,点击:新建

添加:D:\AI\Ollama

点击:确定

退出Ollama后重启Ollama,验证ollama的环境变量是否配置正常,cmd命令行输入ollama,出现如下界面说明正常

2.3.2部署运行deepseek

需要再次进入官网:Ollama

点击:Models,进入如下页面

点击deepseek-r1下面的:8b,进入如下页面

选择:8b,点击:复制

进入cmd命令行执行复制的命令

ollama run deepseek-r1:8b

等待命令执行完成

命令执行完成,可直接输入对话消息

按“ctrl +d”可退出

3Chatbox安装配置

3.1Chatbox简介

Chatbox是啥:

Chatbox是一款AI客户端应用和智能助手,支持众多先进的AI模型和API接入,可在Windows、Mac、Android、iOS、Linux和网页版上进行使用。

3.2Chatbox下载

官网网址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

访问官网网址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载,点击:免费下载

进入如下页面,点击:Windows 下载

3.3安装Chatbox并配置模型

3.3.1安装Chatbox

双击运行:Chatbox-1.9.8-Setup.exe

进入安装界面,点击下一步

选择安装位置

等待安装完成

3.3.2配置模型

进入Chatbox

点击:设置,进入如下界面

点击:Chatbox AI,选择Ollama API

配置API域名:http://127.0.0.1:11434(即我们本地部署的模型)

选择模型:deepseek-r1:8b

点击:保存

4 测试验证

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

IT成长日记

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值