FastGPT
文章平均质量分 53
FastGPT使用
子杣
这个作者很懒,什么都没留下…
展开
-
FastGPT的docker打包问题
2. config文件必须将配置重新改回config.json当中,config.local.json 在docker中读不到;这两个在文档当中没有写,我踩了不少坑~1. .env文件没有任何作用,只有在本地运行的时候有用,在使用docker打包部署的时候必须采用我上面的写法才可以。这里 network是我的docker网络,在我之前的配置里有设置(docker-compose.yml)查询网络的命令:docker network ls。原创 2024-10-06 14:21:13 · 368 阅读 · 0 评论 -
FastGPT 高级编排遇到的一些问题
"描述"]("示例图片")]("网址") 帮我根据这个模板生成一个markdown语句,“描述”填写图片加载失败的描述,“示例图片”填写图片的url,url为“https://图片地址.png”,“网址”填写跳转的网页,网页为“www.baidu.com”因为我的应用当中并不需要他输出猜你想问,而是要明确输出一些东西,所以我也就没研究为啥不出现。6.文本内容提取组件能不能跑起来全看使用的大模型(我用的几个本地小模型是不行,具体可以看。["描述"]("示例图片")]("网址")原创 2024-10-03 09:42:55 · 339 阅读 · 2 评论 -
第二步:本地运行FastGPT
此时 如果nodejs和react那些没问题的话,项目就能跑起来了;下面,我们进入FastGPT的使用环节。2.修改我们的config.local.json为。1.到官网下载开源代码,根据文档进行下载和修改。我把没用到的模型都删了。原创 2024-10-02 20:17:03 · 264 阅读 · 0 评论 -
第一步:安装ollama并运行大模型
其中 gpus 是使用gpu运行ollama,-e OLLAMA_KEEP_ALIVE=-1 是为了让大模型始终保持在内存中,不会用着用着 模型就得重新加载。这里会报错:Error: "shaw/dmeta-embedding-zh" does not support generate。将下方文档保存到 dockerYml文件夹下,名称为:docker-compose.yml。本文档所使用的FastGPT为本地开源版,没有使用docker安装。5.安装mongoDB、pg等docker命令在下面。原创 2024-10-02 20:03:49 · 183 阅读 · 0 评论