FastGPT、多Agent协作部署、使用和重构
该专栏为热销专栏榜 第98名
文章平均质量分 67
FastGPT、多Agent协作部署、使用和重构。本专栏仅为记录本人研究笔记,预期将结合源码解析 FastGPT、多Agent协作整体架构,有问题欢迎交流~
优惠券已抵扣
余额抵扣
还需支付
¥39.90
¥99.00
购买须知?
本专栏为图文内容,最终完结不会低于15篇文章。
订阅专栏,享有专栏所有文章阅读权限。
本专栏为虚拟商品,基于网络商品和虚拟商品的性质和特征,专栏一经购买无正当理由不予退款,不支持升级,敬请谅解。
Linux猿
CSDN博客专家,华为云享专家,HDZ核心组成员,Linux中国翻译组成员,ACM退役选手,分享 Linux、C/C 、Go、算法编程和面试经验,与大家一起成长,把握青春、不负韶华!
展开
-
AutoGen Function Call 函数调用解析(一)
在定义函数后,代理分别注册函数。# 执行计算的函数else:# 注册方法一# assistant 注册函数调用# user_proxy 注册执行在定义函数时,代理注册函数。原创 2024-09-08 11:51:02 · 266 阅读 · 0 评论 -
AutoGen 检索增强生成(RAG)功能解析
检索增强生成 (RAG) 是大模型的一种扩展技术,它将大模型与外部知识检索相结合,以提高生成的响应的质量和相关性,例如:FastGPT。RAG架构图如下所示。主要流程如下所示:(1)用户(User)提出问题(Query);(2)在数据库(Data Source)中查询与问题(Query)相关的内容,这些内容将作为 LLM 的上下文(Text),将问题(Query)和上下文(Text)一起传给 LLM;(3)LLM 根据 Data Source 中检索到的内容组织回答,最终生成回答,返回给用户;原创 2024-09-01 11:09:05 · 666 阅读 · 0 评论 -
OSError: [WinError 126] 找不到指定的模块。Error loading “D:\X\X\torch\fbgemm.dll“ or one of its dependencies.
报错原因是 conda 环境中,python 版本是 3.11.9,torch 版本是 4.66.5,应该是 python 版本有点高,将 python 降到 3.9.19,问题解决。在运行 AutoGen 样例的时候突然报错,如下所示。原创 2024-08-31 20:57:54 · 453 阅读 · 0 评论 -
AutoGen ConversableAgent 基类解析
str 类型,当前代理的名字;原创 2024-08-31 08:00:00 · 1324 阅读 · 0 评论 -
【已解决】Error while getting %s: %s link:388 - Error while linking: %s
本文主要对本地源码构建 AutoGen Studio 时的报错信息解决方法进行介绍。原创 2024-08-12 12:56:47 · 138 阅读 · 0 评论 -
AutoGen Studio 本地源码构建
本文主要介绍 AutoGen Studio 本地源码构建过程。原创 2024-08-10 07:00:00 · 574 阅读 · 0 评论 -
【已解决】Error: Input file contains unsupported image format
本文主要介绍 AutoGen Studio 本地源码构建过程中错误的解决方法。原创 2024-08-10 07:00:00 · 116 阅读 · 0 评论 -
多智能体协作之 AutoGen Studio
本文主要对 AutoGen Studio 进行介绍。原创 2024-08-08 07:00:00 · 792 阅读 · 0 评论 -
ModuleNotFoundError: No module named ‘xxx‘
本文主要对 VSCode 调试 AutoGen 时的报错进行介绍。原创 2024-08-02 19:43:03 · 160 阅读 · 0 评论 -
【机器学习】多个智能体协作之 AutoGen 实例(一)
本文主要介绍下 AutoGen 的初步使用,通过本地运行 AutoGen 为例介绍。原创 2024-07-24 08:34:02 · 485 阅读 · 0 评论 -
one-api 源码调试配置
本文主要介绍通过 VSCode 调试 one-api 源码。原创 2024-07-24 12:47:44 · 435 阅读 · 0 评论 -
FastGPT 知识库搜索测试功能解析(二)
本文接上一篇文章对具体代码进行解析。原创 2024-07-20 18:48:12 · 662 阅读 · 1 评论 -
FastGPT 源码调试配置
本文简单介绍如何通过 vscode 对 FastGPT 进行调试。这里假设已经安装 vsocde 和 FastGPT本地部署。原创 2024-07-20 15:21:51 · 507 阅读 · 0 评论 -
FastGPT 知识库搜索测试功能解析(一)
搜索测试功能包含三种类型:语义检索、全文检索、混合检索。使用向量进行文本相关性查询,即调用向量数据库根据向量的相似性检索;使用传统的全文检索,适合查找一些关键词和主调语特殊的数据;使用向量检素与全文检素的综合结果返回,使用RRF算法进行排序。默认情况下使用语义检索,如下所示。搜索测试前可以根据“知识库搜索配置”进行相关参数的配置,例如:搜索模式、搜索过滤、问题优化等。原创 2024-07-20 17:10:09 · 980 阅读 · 0 评论 -
ChatGLM2-6B 分词器 Tokenizer 的使用
分词器(Tokenizer)是一种将文本拆分成一系列词汇(Token)的工具。在 NLP 中,Token 可以是一个单词、一个标点符号或者一个子词。因为大模型只能识别数字,不能识别英文单词或者汉语的表示,所以需要将其转换为数字表示,通过唯一的 ID 表示一个词,这样就可以通过 ID 来唯一标识一个词。分词器首先将连续的文本切分成离散的词(Token),然后,为每个词分配一个唯一的标识符(ID),分词器可以实现编码和解析,类似于加解密算法。原创 2024-07-14 08:00:00 · 291 阅读 · 0 评论 -
ChatGLM2-6B 运行代码解读(二)
本文主要对 cli_demo.py 进行介绍。原创 2024-07-06 11:19:32 · 112 阅读 · 0 评论 -
ChatGLM2-6B 运行代码解读(一)
本文主要对 ChatGLM2-6B 的运行代码进行解读。原创 2024-07-06 10:56:14 · 127 阅读 · 0 评论 -
ChatGLM2-6B 部署
本文主要对 ChatGLM2-6B 模型的部署和推理过程进行介绍。原创 2024-06-21 07:00:00 · 562 阅读 · 0 评论 -
开源大模型详解
CSDN博客专家🏆,华为云享专家🏆,Linux、C/C++、云计算、物联网、面试、刷题、算法尽管咨询我,关注我,有问题私聊!原创 2023-08-04 08:00:00 · 4885 阅读 · 0 评论 -
RAG 之 Embedding 模型 M3E(二)
本篇文章主要介绍 M3E 模型的使用方法,关于M3E模型的介绍可以参考。原创 2024-06-05 08:20:13 · 696 阅读 · 0 评论 -
RAG 之 Embedding 模型 (一)
M3E 是 Moka Massive Mixed Embedding 的缩写。Moka,此模型由 MokaAI 训练,开源和评测,训练脚本使用 uniem ,评测 BenchMark 使用 MTEB-zhMassive,此模型通过千万级 (2200w+) 的中文句对数据集进行训练;Mixed,此模型支持中英双语的同质文本相似度计算,异质文本检索等功能,未来还会支持代码检索;Embedding,此模型是文本嵌入模型,可以将自然语言转换成稠密的向量。原创 2024-06-01 15:37:44 · 1094 阅读 · 0 评论 -
one-api 架构解析(三)
本文以 OpenAI 模型为例,介绍 one-api 具体的处理流程,OpenAI 处理流程基本和非 OpenAI 流程一致。原创 2024-07-05 08:30:00 · 200 阅读 · 0 评论 -
one-api 架构解析(二)
one-api 关于模型的访问主要分为两种,一种是符合 OpenAI API 规则,另一种是不符合 OpenAI API 规则,其中,不符合规则的需要分别实现。本文主要以 智普AI 为例,介绍处理非 OpenAI API 的流程。下面以访问 智普AI GLM-v4 API 为例,介绍 one-api 具体处理流程。原创 2024-07-05 08:00:00 · 166 阅读 · 0 评论 -
one-api 架构解析(一)
下面对主函数的各个部分进行详细介绍。原创 2024-07-03 07:30:00 · 122 阅读 · 0 评论 -
FastGPT 报错:undefined 该令牌无权使用模型:gpt-3.5-turbo (request id: xxx)
调整 FastGPT 前端工作流页面 AI对话 组件中 AI 模型的选择,默认选择的是 gpt-3.5-turbo,如果选择了 知识库搜索 组件,也需要修改其对应的模型,修改:知识库搜索组件->搜索参数设置->问题优化-> AI模型。进行对话时 FastGPT 报错如下所示。原创 2024-07-01 10:26:15 · 1199 阅读 · 0 评论 -
FastGPT 错误:Embedding API is not responding
在调用 Embedding 模型对文档切片向量化的时候 FastGPT 出现如下错误。原创 2024-07-01 09:15:33 · 360 阅读 · 0 评论 -
FastGPT本地手动部署(二)
本篇文章主要介绍如何在本地手动部署 FastGPT。原创 2024-06-29 10:53:44 · 646 阅读 · 0 评论 -
FastGPT本地手动部署(一)mongodb和pgvector的安装
本文主要介绍 mongodb 和 pgvector 的安装,为了更快安装,通过 docker 的方式进行安装,本文使用的环境是 ubuntu 20.04。原创 2024-06-29 10:34:10 · 715 阅读 · 0 评论 -
FastGPT 手动部署错误:MongooseServerSelectionError: getaddrinfo EAI_AGAIN mongo
重新运行 FastGPT 即可。原创 2024-06-28 12:43:26 · 491 阅读 · 0 评论 -
Postman错误:Error: write EPROTO 68772104:error:100000f7:SSL routines:OPENSSL_internal:WRONG_VERSION_NU
将 https 改为 http 即可。原创 2024-06-27 16:39:34 · 653 阅读 · 0 评论