一分钱不花!手把手教你部署Google最强开源AI大模型Gemma教程_谷歌 开源 ai 框架

img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上Go语言开发知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以戳这里获取

  1. 使用以下命令安装 Ollama:
curl -fsSL https://ollama.com/install.sh | sh

速度可能因为网络慢一些,等待即可
在这里插入图片描述

  1. 安装完成后,编辑 Ollama 的服务配置文件:
sudo vi /etc/systemd/system/ollama.service

在这里插入图片描述

在 `ExecStart=/usr/local/bin/ollama serve` 上面插入:
`Environment="OLLAMA_HOST=0.0.0.0:11434"`

在这里插入图片描述

  1. 开放 API 端口(默认端口为 11434),并重启服务器。
    在这里插入图片描述
  2. 访问 ip:11434 查看 Ollama 是否成功部署。

在这里插入图片描述

第三步:部署 Gemma

运行以下命令(这里以7b为例): ollama run gemma:7b

等待部署完成后即可开始使用 Gemma,这里是交互式使用,接下来继续安装openweb-ui

在这里插入图片描述在这里插入图片描述

第四步:部署 open-webui

可以选择新建一个终端,运行的gemma不要停

在这里插入图片描述

  1. 部署 Docker(根据不同系统安装 Docker)。
sudo apt install docker.io

在这里插入图片描述
2. 运行以下命令安装 open-webui(请注意镜像地址,这是使用的是速度快的国内源):

sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

在这里插入图片描述

  1. 启动容器(启动之后需要稍等1-2分钟,下载必要文件):
sudo docker run -d ghcr.nju.edu.cn/open-webui/open-webui

在这里插入图片描述
4. 访问 IP:3000 进入 open-webui,注册账号(第一次注册的账号默认为管理员)。
在这里插入图片描述
完美启动
在这里插入图片描述

  1. 在模型中检查 Ollama 连接状态是否成功.

在这里插入图片描述

  1. 点击头像进入管理员面板,将新用户默认改为用户(按需修改),省去用户需要审核的流程
    在这里插入图片描述

完美部署!

img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上Go语言开发知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以戳这里获取

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以戳这里获取

  • 5
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值