免费的GPT-3.5 API服务aurora

杨浦老苏

已于 2024-04-10 11:31:21 修改

阅读量8.8k

点赞数 9

文章标签：群晖 docker 人工智能 AI

于 2024-04-10 08:59:15 首次发布

本文链接：https://blog.csdn.net/wbsu2004/article/details/137580634

版权

在这里插入图片描述

什么是 aurora ？

aurora 是利用免登录 ChatGPT Web 提供的无限制免费 GPT-3.5-Turbo API 的服务，支持使用 3.5 的 access 调用。

【注意】：仅 IP 属地支持免登录使用 ChatGPT的才可以使用（也可以自定义 Baseurl 来绕过限制）

aurora 是和 FreeGPT35 类似的免费接口，所不同的是，aurora 除了提供接口服务外，还自带了 Web UI。

FreeGPT35 在老苏之前写的 LobeChat 一文中介绍过

文章传送门：聊天应用与开发框架LobeChat

安装

aurora 支持在多种云服务上部署，包括 vercel、Render 等

不过老苏要写的，还是在群晖上以 Docker 方式安装。

镜像下载

官方没有在 docker hub 上发布镜像，而是采用了自动构建 docker 镜像的方式，地址在 https://github.com/aurora-develop/aurora/pkgs/container/aurora

本文写作时，latest 对应版本 6baafd306e7e7ef423e08f16079f228f335f795e

用 SSH 客户端登录到群晖后，执行下面的命令拉取镜像

# 拉取镜像
docker pull ghcr.io/aurora-develop/aurora:latest

如果没有科学上网，很可能会拉不动，可以试试 docker 代理网站：https://dockerproxy.com/，但是会多几个步骤

# 如果拉不动的话加个代理
docker pull ghcr.dockerproxy.com/aurora-develop/aurora:latest

# 重命名镜像（如果是通过代理下载的）
docker tag ghcr.dockerproxy.com/aurora-develop/aurora:latest ghcr.io/aurora-develop/aurora:latest

# 删除代理镜像（如果是通过代理下载的）
docker rmi ghcr.dockerproxy.com/aurora-develop/aurora:latest

下载完成后，可以在 映像 中找到

命令行安装

如果你熟悉命令行，可能用 docker cli 更快捷

# 运行容器
docker run -d \
   --restart unless-stopped \
   --name aurora \
   -p 8328:8080 \
   ghcr.io/aurora-develop/aurora:latest

也可以用 docker-compose 安装，将下面的内容保存为 docker-compose.yml 文件

version: '3'

services:
  aurora:
    image: ghcr.io/aurora-develop/aurora:latest
    container_name: aurora
    restart: unless-stopped
    ports:
      - 8328:8080

然后执行下面的命令

# 新建文件夹 aurora 和 子目录
mkdir -p /volume1/docker/aurora

# 进入 aurora 目录
cd /volume1/docker/aurora

# 将 docker-compose.yml 放入当前目录

# 一键启动
docker-compose up -d

高级设置

默认情况不需要设置，除非你有需求

可变	值	说明
`SERVER_HOST`	`0.0.0.0`	监听地址
`SERVER_PORT`	`8080`	监听端口
`FREE_ACCOUNTS`	`true`
`FREE_ACCOUNTS_NUM`	`1024`
`Authorization`	`your_authorization`	用户认证 `key`
`TLS_CERT`	`path_to_your_tls_cert`	存储 `TLS`（传输层安全协议）证书的路径
`TLS_KEY`	`ath_to_your_tls_key`	存储 `TLS`（传输层安全协议）证书的路径
`PROXY_URL`	`your_proxy_url`	添加代理池

运行

Web UI

访问 http://群晖IP:8328/web 就能看到聊天界面

随便问个问题，如果 IP 没问题的话，很快就会看到结果了

API 服务

在浏览器中输入 http://群晖IP:8328 ，会看到一条信息 {"message":"Hello, world!"}

命令行

要验证是 API 否正常，可以用下面的示例

curl --location 'http://192.168.0.197:8328/v1/chat/completions' \
--header 'Content-Type: application/json' \
--data '{
     "model": "gpt-3.5-turbo",
     "messages": [{"role": "user", "content": "Say this is a test!"}],
     "stream": true
   }'

返回下面的信息 This is a test! 表示 IP 没问题，API 工作正常