继这篇博客之后 从零开始FastGPT本地部署|Windows
有同学问,不想在多个平台申请API-Key,不好管理且要付费,有木有白嫖方案呀?
答:有啊。用硅基流动。
从零开始FastGPT本地部署|Windows 上回书说到,FastGPT通过OneAPI添加了“通义千问”大模型,使用的阿里官方的API-Key,我跟小伙伴们一样,欠费咯~
那就再配一个大模型吧。
一、OneAPI配大模型
1.1 选对话模型+嵌入模型
我这都选免费的,土豪们可以选择付费的模型
1.2 OneAPI 添加渠道和令牌
添加渠道
由于是第三方平台,这里可能测试不成功。
不过没关系,不影响后面的使用
二、FastGPT配置
2.1 修改docker-compose.yml
# 硅基平台URL
- OPENAI_BASE_URL=https://api.siliconflow.cn/v1
# API-KEY
- CHAT_API_KEY=sk-pkxxxxxxcje
2.2 修改config.json
"llmModels": [
{
"model": "Qwen/Qwen2-7B-Instruct",
"name": "通义千问2-7b",
"avatar": "/imgs/model/openai.svg",