Gemma Chat【所有人都能本地部署的对话AI】

简介

Gemma Chat 是一个聊天应用，专注于实现高效的消息交互。这个项目使用 Docker 来简化部署流程gemma_chat，并且源代码托管在 GitHubGitHub - Park-C159/gemma_chat，方便开发者下载、修改和贡献。

技术栈和特色

Gemma Chat 的开发选用了 Vue.js 和 Node.js，这两种技术的结合使得项目既能保持轻量级，也便于跨平台部署。前端 Vue.js 提供动态用户界面，后端 Node.js 处理 API 请求和实时数据传输。此外，项目还整合了 Flask，用于存储用户消息历史，保证数据的持久化和安全。

Docker 部署的优势

通过 Docker 容器化技术，Gemma Chat 实现了“一次配置，到处运行”的目标。容器化不仅简化了部署过程，也使应用更加稳定。Docker 镜像包含了运行应用所需的所有依赖，确保了从开发环境到生产环境的无缝迁移。

GitHub 协作的力量

Gemma Chat 的代码托管在 GitHub，这不仅仅是代码存储的地方，更是一个协作平台。开发者可以通过 Fork 和 Pull Request 参与到项目中，共同解决问题和添加功能。GitHub 的 Issue 跟踪系统也使得项目的问题管理更加高效和透明。

部署

安装Docker

1. windows子系统

• 控制面板->程序->启用或关闭 windows 功能，开启 Windows 虚拟化和 Linux 子系统（WSL2)

• 命令行安装 Linux 内核

wsl.exe --install -d Ubuntu

• 开机启动Hypervisor

bcdedit /set hypervisorlaunchtype auto

• 设置使用版本2

wsl.exe --set-default-version 2

• 检查是否安装成功

wsl.exe --list --verbose

 

2. docker安装

访问 Docker 官方网站下载 Docker Desktop 的安装程序

• 下载安装程序：访问https://www.docker.com/下载 Docker Desktop 的安装程序。

• 安装 Docker Desktop：运行下载的安装文件，并遵循安装向导的指示完成安装。
• 配置 Docker：安装完成后，打开 Docker Desktop 并根据需要调整设置。
• 验证安装：打开命令行窗口，输入 docker --version 来验证 Docker 是否正确安装。

3. Docker镜像加速

镜像源	源地址
Docker中国官方镜像	https://registry.docker-cn.com
DaoCloud 镜像站	http://f1361db2.m.daocloud.io
阿里云	https://ud6340vz.mirror.aliyuncs.com

 

"registry-mirrors": ["https://registry.docker-cn.com"]

拉取镜像

版本

目前只有1.0.0版本

docker pull starcosmos159/gemma:1.0.0

可以通过打开命令行运行上述命令来拉取镜像。

该容器支持快速部署，用户只需执行以下命令即可在本地环境中完成一键部署：

docker run -p 5000:5000 --name gemma -d --restart always starcosmos159/gemma:1.0.0

部署

此命令不仅允许容器在指定端口运行，还充分利用了系统中的所有GPU资源（没有容器会自动使用cpu），以确保处理效率最大化和响应速度最优。 部署完成后，用户可以通过访问

http://localhost:5000

来与GEMMA模型进行实时交互，无需额外配置或复杂设置，即可享受高效、流畅的对话体验。这种部署方式简化了操作流程，使得在本地环境中使用GEMMA大模型变得更加容易，无论是用于开发测试，还是探索大模型在实际场景中的应用，都提供了极大的便利性和灵活性。

结语

Gemma Chat 项目是对现代通讯需求的直接回应，它通过利用前沿技术和开源社区的力量，提供了一个稳定、可扩展的聊天解决方案。无论你是寻找一个企业级聊天系统还是简单的社交应用，Gemma Chat 都是一个值得考虑的选择。访问 Docker Hub页面 和 GitHub仓库 来了解更多信息和下载源代码。