ollama极简三步运行谷歌Gemma-7B

---

在当今的科技时代，AI 已经成为许多领域的关键技术。AI 的应用范围广泛，从自动驾驶汽车到语音助手，再到智能家居系统，都有着 AI 的身影，而随着Facebook 开源 LLama2 更让越来越多的人接触到了开源大模型。如今，Google 又推出了新一代开放模型 Gemma，旨在帮助开发者和研究人员更负责任、高效地开发 AI 技术。

ollama是一条命令快速在本地运行大模型，在GitHub超过39K Star的开源项目。
地址：https://github.com/ollama/ollama

笔者亲测有效Windows笔记本快速运行Gemma：配置是Win11，12G内存。-----注意：至少有 8 GB 可用 RAM （运存）来运行 7B 型号，16 GB 来运行 13B 型号，32 GB 来运行 33B 型号。

一、下载安装 ollama:
https://ollama.com/ 首页点击下载：Ollama Windows(preview)，运行 OllamaSetup.exe 一键安装，install就好。
二、拉取 gemma:7b
打开Windows CMD / PowerShell, 运行如下命令

ollama pull gemma:7b

其实也可以直接运行第三部分的run，里面包括了拉取模型。

三、运行 Run gemma:7b

ollama run gemma:7b

输入

please comment on the value of paper "attention is all you need " to ChatGPT

输入

please help to translate your previous answer into Chinese

长对话效果一般，但是胜在笔记本轻轻松松跑起来，期待未来更多的模型吧！

四、删除gemma:7b
如果不想用也可以直接删除，命令：

ollama rm gemma:7b

部分参考文章：https://mp.weixin.qq.com/s/XmzDpRKXanCnA8gBcivW8Q

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45965387/article/details/136268382