lobe-chat+ollama本地运行大模型

(硬件环境:笔记本电脑,intel处理器i9-13900HX、64G内存、NVIDIA RTX4080(12G)、操作系统windows11家庭版)

(一)安装Node.js

1.下载Node软件。

在Node官网(https://nodejs.org/en)选择适合自己的版本。

2.点击下载的文件,按照提示安装。(默认安装到c:盘,建议更改安装目录d:\nodejs)

(二)安装lobe-chat

1.下载代码。

在github下载lobe-chat代码(https://github.com/lobehub/lobe-chat/releases)。

在网页上点击需要安装的lobe-chat版本,本人安装使用1.3.6本版本,选择zip格式。

解压到d:\lobe-chat.1.3.6目录(可自行指定目录)。

2.安装依赖包

cd lobe-chat-1.3.6

pnpm install(直接寻找目录下的package.json,安装lobe-chat的所有依赖包)

pnpm dev(在npm run dev的时候,首先会去当前目录package.json文件里找scripts 里找对应的 dev ,然后执行 dev 的命令。)

3.配置环境

在lobechat1.3.6目录下找到并编辑.env.example文件。

修改OLLAMA_PROXY_URL=http://127.0.0.1:11434

OLLAMA_MODEL_LIST=glm4,qwen2,llama3-8b-chinese

(OLLAMA_MODEL_LIST根据你拥有的本地模型填写)

将文件另存为.env文件。

4.选择本地大模型

在网页左上角点击lobechat图标,选择“应用设置”

点击“语言模型”,在模型列表右下角中点击“获取模型列表”,找到qwen2。

(三)开始使用

1.启动lobe-chat软件。在lobechat目录中点击鼠标右键,选择“在终端中打开”,然后输入pnpm dev。

2.在浏览器栏输入:http://localhost:3010/。或者点击桌面lobechat图标。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值