聊天应用与开发框架LobeChat

在这里插入图片描述

自从 OpenAI 宣布用户无需注册账号即可使用 ChatGPT 后,Github 上多了很多利用免登录 ChatGPT Web 提供的无限制免费 GPT-3.5-Turbo API 服务的应用,像 FreeGPT35aurora 等等

之前有很多 AI 应用,因为没有 OpenAI Key而放弃,现在都可以慢慢折腾起来了

下面的安装示例,全程采用命令行方式,需用 SSH 客户端登录到服务器上执行

FreeGPT35

什么是 FreeGPT35 ?

FreeGPT35 就是利用免费登录的 ChatGPT Web 提供的无限免费 GPT-3.5-Turbo API 服务。

FreeGPT35 是一个服务,需配合其他软件使用。安装很简单,但是要正常工作,需要有一个正确的网络环境

【注意】:如果您无法正常使用此项目,很可能是由于您的 IP 存在问题。您的 IP 已触发了 Cloudflare 的盾,或已被 ban 掉。请尝试自行更改您的 IP 或切换服务器。

安装

以 Docker 方式安装,可以安装在群晖上,也可以安装在 vps

本文写作时, latest 版本对应为 v1.0.1

如果你熟悉命令行,可能用 docker cli 更快捷

# 运行容器
docker run -d \
   --restart unless-stopped \
   --name freegpt35 \
   -p 3044:3040 \
   missuo/freegpt35:latest

也可以用 docker-compose 安装,将下面的内容保存为 docker-compose.yml 文件

version: '3'

services:
  freegpt35:
    image: missuo/freegpt35:latest
    container_name: freegpt35
    restart: always
    ports:
      - "3044:3040"

然后执行下面的命令

# 新建文件夹 freegpt35
mkdir -p /volume1/docker/freegpt35

# 进入 freegpt35 目录
cd /volume1/docker/freegpt35

# 将 docker-compose.yml 放入当前目录

# 一键启动
docker-compose up -d

运行

在浏览器中输入 http://群晖IP:3044 ,会看到返回的错误信息,不用理会

要验证是否正常,可以用下面的示例

你不必传递 Authorization 认证信息,当然,你也可以随机传递任意字符串。

curl http://192.168.0.197:3044/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer any_string_you_like" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [
      {
        "role": "user",
        "content": "Hello!"
      }
    ],
    "stream": true
    }'

状态异常

如果返回错误信息,说明你的 IP 有问题

{"status":false,"error":{"message":"An error happened, please make sure your request is SFW, or use a jailbreak to bypass the filter.","type":"invalid_request_error"}}

如果看日志,可能会看到下面的内容

Error refreshing session ID, retrying in 1 minute...
If this error persists, your country may not be supported yet.
If your country was the issue, please consider using a U.S. VPN.

状态正常

如果一切正常的话,应该返回下面这样的信息


如果看日志,可能会看到下面的内容

System: Successfully refreshed session ID and token.

LobeChat

什么是 LobeChat ?

LobeChat 是现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架,支持语音合成、多模态、可扩展的(function call)插件系统,可以让你一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用。

LobeChat 支持很多模型服务商,其中包括了 Ollama,不过今天我们要对接的是 ChatGPT,有兴趣的可以自己研究

文章传送门:本地大模型运行框架Ollama

安装

在群晖上以 Docker 方式安装。

如果你熟悉命令行,可能用 docker cli 更快捷

本文写作时, latest 版本对应为 v0.145.10

# 运行容器
docker run -d \
   --restart unless-stopped \
   --name lobe-chat \
   -p 11435:3210 \
   -e OPENAI_API_KEY=gptyyds \
   -e OPENAI_PROXY_URL=http://192.168.0.197:3044/v1 \
   -e ACCESS_CODE=lobe66 \
   lobehub/lobe-chat:latest
  • OPENAI_API_KEY:可以随意使用任何字符串填写 API Key,例如gptyyds
  • OPENAI_PROXY_URL:填写 FreeGPT35 服务的地址 + 端口 + /v1
  • ACCESS_CODE:给 LobeChat 服务添加访问密码

更多的环境变量说明,请参考官方文档:https://chat-docs.lobehub.com/en/self-hosting/environment-variables

也可以用 docker-compose 安装,将下面的内容保存为 docker-compose.yml 文件

version: '3'

services:
  lobe-chat:
    image: lobehub/lobe-chat:latest
    container_name: lobe-chat
    restart: unless-stopped
    ports:
      - 11435:3210
    environment:
      - OPENAI_API_KEY=gptyyds
      - OPENAI_PROXY_URL=http://192.168.0.197:3044/v1
      - ACCESS_CODE=lobe66

然后执行下面的命令

# 新建文件夹 lobechat
mkdir -p /volume1/docker/lobechat

# 进入 lobechat 目录
cd /volume1/docker/lobechat

# 将 docker-compose.yml 放入当前目录

# 一键启动
docker-compose up -d

运行

在浏览器中输入 http://群晖IP:11435 就能看到主界面

立即开始

如果直接提问,会弹出密码框

输入前面环境变量 ACCESS_CODE 中设定的值 lobe66,就能开始聊天了

LobeChat 的聊天记录全部都存储在你的本地浏览器中

LobeChat 的功能还挺多的,比如 插件商店

启用了 DALL-E 3 想玩下文生图,结果只是给我一堆 prompt,看来可能需要 GPT-4 才行

可以看看官方文档的中文版介绍,
https://github.com/lobehub/lobe-chat/blob/main/README.zh-CN.md

参考文档

missuo/FreeGPT35: Utilize the unlimited free GPT-3.5-Turbo API service provided by the login-free ChatGPT Web.
地址:https://github.com/missuo/FreeGPT35

lobehub/lobe-chat: 🤯 Lobe Chat - an open-source, modern-design LLMs/AI chat framework. Supports Multi AI Providers( OpenAI / Claude 3 / Gemini / Perplexity / Bedrock / Azure / Mistral / Ollama ), Multi-Modals (Vision/TTS) and plugin system. One-click FREE deployment of your private ChatGPT chat application.
地址:https://github.com/lobehub/lobe-chat

开始使用 · LobeChat Docs
地址:https://chat-docs.lobehub.com/zh/usage/start

  • 26
    点赞
  • 24
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

杨浦老苏

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值