Gemma部署,开源大模型快速Linux本地安装教程(超简单)

一:前言

就在几天前,开源大模型领域迎来了重磅新玩家:谷歌推出了全新的开源模型系列「Gemma」。相比 Gemini,Gemma 更加轻量,同时保持免费可用,模型权重也一并开源了,且允许商用。

Gemma是一个轻量级的,最先进的谷歌开放式模型系列, 利用与双子星座模型相同的研究和技术建造而成。 它们是文本到文本的,只有解码器的大型语言模型,有英文版本, 使用开放权重,预训练变体和指令调整变体。吉玛 模型非常适合各种文本生成任务,包括 问题回答,总结和推理。它们的体积相对较小 使得在资源有限的环境中部署它们成为可能,例如 笔记本电脑,台式机或您自己的云基础设施,民主化访问 最先进的人工智能模型,并帮助促进每个人的创新。

二:本地部署

现在我们来快速进行本地部署吧

首先我们需要下载Ollama,Ollama 用于在本地管理和部署大语言模型,由于它极大的简化了安装和配置的细节,一经推出就广受好评,目前已在github上获得了40k star
curl -fsSL https://ollama.com/install.sh | sh

Ollama的官网:

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值