使用PerfXCloud快速搭建一个ChatGPT-Web

一、准备

本项目使用 www.perfxcloud.cn 大模型平台，网站上有详细的说明文档。

快速开始 | PerfXCloud​docs.perfxlab.cn/docs/tutorial-basics/get-started/

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果还没有PerfXCloud的账号，可以登录网站创建一个。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （还在持续更新中）

二、ChatGPT-Web

ChatGPT-Web 是一个基于 Express 和 Vue3 搭建的第三方 ChatGPT 前端页面，通过PerfXCloud API实现。这个项目的目标是让用户能够自定义提示词、访问提示词商店，并且无需 API 密钥。本项目基于https://github.com/Chanzhaoyu/chatgpt-web进行开发。

三、程序部署

Node

node 需要 ^16 || ^18 || ^19 版本（node >= 14 需要安装 fetch polyfill），使用 nvm 可管理本地多个 node 版本

node -v   #查看版本号

PNPM

如果你没有安装过 pnpm

npm install pnpm -g

下载源码

git clone https://gitee.com/PerfXCloud-APP/chatgpt-web.git
cd chatgpt-web/

填写密钥

获取 PerfXCloud API 令牌并填写本地环境变量

# service/.env 文件
OPENAI_API_KEY=
OPENAI_API_BASE_URL='https://cloud.perfxlab.cn/v1'
OPENAI_API_MODE='Qwen2-72B-Instruct-GPTQ-Int4'

环境变量

API 可用：

OPENAI_API_MODEL 设置模型

OPENAI_API_BASE_URL 设置接口地址

OPENAI_API_DISABLE_DEBUG 设置接口关闭 debug 日志，可选，默认：empty 不关闭

通用：

AUTH_SECRET_KEY 访问权限密钥，可选

MAX_REQUEST_PER_HOUR 每小时最大请求次数，可选，默认无限

TIMEOUT_MS 超时，单位毫秒，可选

SOCKS_PROXY_HOST 和 SOCKS_PROXY_PORT 一起时生效，可选

SOCKS_PROXY_PORT 和 SOCKS_PROXY_HOST 一起时生效，可选

HTTPS_PROXY 支持 http，https, socks5，可选

ALL_PROXY 支持 http，https, socks5，可选

安装依赖

后端

进入文件夹 /service 运行以下命令

pnpm install

前端

根目录下运行以下命令

pnpm bootstrap

项目运行

后端服务

进入文件夹 /service 运行以下命令

pnpm start

前端网页

pnpm dev

以下命令部署完成后,打开项目的网页链接如下图:

项目演示视频

https://www.bilibili.com/video/BV1an4y1o7iS​www.bilibili.com/video/BV1an4y1o7iS

项目代码地址

PerfXCloud_APP/chatgpt-web​gitee.com/PerfXCloud-APP/chatgpt-web​编辑

项目在线体验连接

ChatGPT Web​app.perfxlab.cn:7088/chatgpt_web