AI大模型之旅-本地安装llm工具dify 和 fastgpt

一:安装dify

官网地址： https://dify.ai/

克隆 Dify 源代码至本地。

git clone https://github.com/langgenius/dify.git

启动 Dify
进入 Dify 源代码的 docker 目录，执行一键启动命令：

cd dify/docker
cp .env.example .env
docker compose up -d

更新 Dify
进入 dify 源代码的 docker 目录，按顺序执行以下命令：

cd dify/docker
docker compose down
git pull origin main
docker compose pull
docker compose up -d
本地地址：http://xx.xx.xx.xx/
用户名密码需要邀请 个人邮箱：2435931216@qq.com 密码：********

二:安装fastgpt

官网地址：https://doc.fastgpt.in/docs/development/docker/
以下基于docker-compose快速安装，前提环境已经安装好docker和docker-compose环境
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

curl -o https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml

3. 启动容器

启动容器docker-compose up -d# 等待10s，OneAPI第一次总是要重启几次才能连上Mysql

sleep 10# 重启一次oneapi(由于OneAPI的默认Key有点问题，不重启的话会提示找不到渠道，临时手动重启一次解决，等待作者修复)
docker restart oneapi

4. 打开 OneAPI 添加模型
   可以通过ip:3001访问OneAPI，默认账号为root密码为123456。
   在OneApi中添加合适的AI模型渠道。点击查看相关教程
5. 访问 FastGPT
   目前可以通过 ip:3000 直接访问(注意防火墙)。登录用户名为 root，密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW
   本地环境地址：http://xx.xx.xx.xx:3000/
   用户名 root 密码 1234