谷歌Gemma大模型部署记录

谷歌Gemma大模型部署记录

配置信息

1.系统：Ubuntu20
2.显卡：RTX3060 6G

一、安装Ollama

官网地址：https://ollama.com/download/linux

按照指令安装

curl -fsSL https://ollama.com/install.sh | sh

二、运行模型

输入指令：

ollama run gemma:2b

可选模型

三、chatBox调用Gemma模型

1.安装chatBox软件
安装包地址：https://github.com/Bin-Huang/chatbox
在git的Releases中下载对应系统版本的安装包。

2.配置Gemma模型
在chatBox软件中，配置Gemma模型

3.测试效果