一:前言
就在几天前,开源大模型领域迎来了重磅新玩家:谷歌推出了全新的开源模型系列「Gemma」。相比 Gemini,Gemma 更加轻量,同时保持免费可用,模型权重也一并开源了,且允许商用。
Gemma是一个轻量级的,最先进的谷歌开放式模型系列, 利用与双子星座模型相同的研究和技术建造而成。 它们是文本到文本的,只有解码器的大型语言模型,有英文版本, 使用开放权重,预训练变体和指令调整变体。吉玛 模型非常适合各种文本生成任务,包括 问题回答,总结和推理。它们的体积相对较小 使得在资源有限的环境中部署它们成为可能,例如 笔记本电脑,台式机或您自己的云基础设施,民主化访问 最先进的人工智能模型,并帮助促进每个人的创新。
二:本地部署
现在我们来快速进行本地部署吧
首先我们需要下载Ollama,Ollama 用于在本地管理和部署大语言模型,由于它极大的简化了安装和配置的细节,一经推出就广受好评,目前已在github上获得了40k star
curl -fsSL https://ollama.com/install.sh | sh
Ollama的官网: