如何使用PerfXCloud实现一次与多个ai模型对话

一、准备

本项目使用 www.perfxcloud.cn大模型平台，网站上有详细的说明文档。

快速开始 | PerfXCloud​docs.perfxlab.cn/docs/tutorial-basics/get-started/

注意：PerfXCloud的API接口兼容 OpenAI 的ChatGPT，可以直接使用 OpenAI SDK或者其他中间件来访问 PerfXCloud。这使得开发者从ChatGPT或者其他平台切换到PerfXCloud变得非常非常容易。

1.如果还没有PerfXCloud的账号，可以登录网站创建一个。

2.PerfXCloud目前支持：

Qwen1.5-110B-Chat-GPTQ-Int4, Qwen1.5-72B-Chat-GPTQ-Int4, Qwen2-72B-Instruct-GPTQ-Int4, Meta-Llama-3-70B-Instruct-GPTQ-Int4, Qwen-14B-Chat-Int4, Meta-Llama-3-8B-Instruct,Llama3-Chinese_v2, chatglm3-6b,llama-3-8b, Qwen1.5-7B,Qwen2-7B,gpt2, SOLAR-10_7B-Instruct,llama-2-7b, PHI_1-5,opt-1b3, phi-2,internLM, Mistral-7B-Instruct, MindChat-Qwen-7B-v2,StarCoder-1B （还在持续更新中）

​

大模型广场

二、ChatAll

ChatAll是一个能够同时与多个 AI 模型对话的网页应用。

三、程序部署

下载源码

git clone  https://gitee.com/PerfXCloud-APP/chatall
cd chatall

依赖包

"ChatAll" 项目使用了一系列依赖包和开发时的辅助工具。

这里重点介绍几个核心的依赖包及其作用：

1. openai:OpenAI 是一个用于构建人工智能模型的平台，它提供了强大的自然语言处理功能。ChatAll 使用 OpenAI 来调用perfxcloud的api 来与大模型进行对话。

2. streamlit:Streamlit 是一个用于构建数据可视化应用的 Python 框架。

配置

在 aibackend.py 代码里面配置模型名称和 api-key （可以从www.perfxcloud.net注册账号获取）

四、运行

python运行项目

streamlit run aitalk.py

运行效果如下图：

本项目视频教程地址：

https://www.bilibili.com/video/BV1m4421S7CL​www.bilibili.com/video/BV1m4421S7CL

本项目代码地址：

PerfXCloud_APP/chatall​gitee.com/PerfXCloud-APP/chatall​编辑