1 电脑配置
操作系统:win 11
CPU:
内存:
2 Ollama安装配置
2.1Ollama简介
Ollama是一款开源工具,支持用户在本地快速部署和运行大型语言模型(如Llama 2、Mistral、Gemma 等)。lama 2、Mistral、emma 等)
Ollama常用命令:
ollama serve
##启动后台服务,启用API访问(默认端口11434)
ollama stop
##停止运行的模型
ollama show <模型名>
##显示模型信息
ollama run <模型名>
##运行指定模型(如ollama run llama2),进入交互对话模式
ollama list
##列出本地已下载的模型
ollama pull <模型名>
##下载模型(如ollama pull mistral),需联网
ollama rm <模型名>
##删除本地模型(如ollama rm llama2)
ollama create <自定义名>
##基于Modelfile创建自定义模型(需编写Modelfile)
ollama push <用户名/模型名>
##推送自定义模型至Ollama仓库(需注册账号)
2.2Ollama下载
官网网址:Ollama
访问官网网址:Ollama,点击:Download
进入如下页面,点击:Download for Windows,等待下载完成即可
2.3安装Ollama并运行模型
2.3.1执行安装并指定安装路径
Ollama默认安装目录路径为:C盘,这里我们手动指定安装路径为:D盘,cmd安装命令
D:\AI\OllamaSetup.exe /DIR="D:\AI\Ollama"
##D:\AI\为安装包所在目录路径 ##D:\AI\Ollama为安装位置
cmd中执行命令:D:\AI\OllamaSetup.exe /DIR="D:\AI\Ollama",进入安装界面,等待安装完成即可
2.3.2配置环境变量
搜索框输入:环境变量
点击:编辑系统环境变量,再点击:高级,进入如下页面
点击:环境变量,进入如下页面
点击系统环境变量下的:编辑,进入如下页面,点击:新建
添加:D:\AI\Ollama
点击:确定
退出Ollama后重启Ollama,验证ollama的环境变量是否配置正常,cmd命令行输入ollama,出现如下界面说明正常
2.3.2部署运行deepseek
需要再次进入官网:Ollama
点击:Models,进入如下页面
点击deepseek-r1下面的:8b,进入如下页面
选择:8b,点击:复制
进入cmd命令行执行复制的命令
ollama run deepseek-r1:8b
等待命令执行完成
命令执行完成,可直接输入对话消息
按“ctrl +d”可退出
3Chatbox安装配置
3.1Chatbox简介
Chatbox是啥:
Chatbox是一款AI客户端应用和智能助手,支持众多先进的AI模型和API接入,可在Windows、Mac、Android、iOS、Linux和网页版上进行使用。
3.2Chatbox下载
官网网址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载
访问官网网址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载,点击:免费下载
进入如下页面,点击:Windows 下载
3.3安装Chatbox并配置模型
3.3.1安装Chatbox
双击运行:Chatbox-1.9.8-Setup.exe
进入安装界面,点击下一步
选择安装位置
等待安装完成
3.3.2配置模型
进入Chatbox
点击:设置,进入如下界面
点击:Chatbox AI,选择Ollama API
配置API域名:http://127.0.0.1:11434(即我们本地部署的模型)
选择模型:deepseek-r1:8b
点击:保存