- 博客(4)
- 收藏
- 关注
RSS订阅原创 langchain构建一个RAG的客户机器人
这是构建一个简单的RAG聊天机器人，整个架构设计思路及流程第一部分存储文本：先准备本地数据文本->切分文本（langchain提供各种切分文本的切分器，注意的是好的切分效果会提升后面向量搜索的准确度，也就提升大模型回答问题的准确性）->使用嵌入模型对文本进行向量化->存入向量数据库。第二部分查询相似文本传给模型进行回答:构建大模型实例->构建prompt->构建检索器->传入模型生成回答。回答结果还是很不错，现在Qwen2加上RAG做客服机器人很不错，如果再调试下prompt效果会更好。
2024-07-22 23:36:24
44
原创 讯飞星火API接口接入autogen studio的models
autogen studio是制作agent很不错的工具，它是以autogen制作成的网页版，其实是将autogen的模块定义用类已经写好，后期开发直接调用autogenstudio库的类就行，你可以先在网页版上将参数配置好，把workflows调式好后将配置参数下载后进行调库开发。autogen对于API的调用都是openai接口框架，所以像国能许多大模型的接口无法使用，然而lang2openai这个项目就是将许多模型的API转换为openai的框架接口。这里注意配置文件里面把中文去掉，不然会报错。
2024-05-08 22:42:13
1191
1
原创 使用keepalived实现主备docker数据转发服务器
基于keepalived的原理我们知道虚拟IP会替代服务器实体IP对外通讯，首先我们要保证主备服务器的工作IP要在同一个网段，主备的切换主要由BACKUP监听MASTER的广播来确定MASTER是否存活，由此我们知道主备实现的原理。2.现在客服端可以访问到虚拟IP来访问我们服务器，但我们服务器对外访问还是以实际IP对外访问并未用虚拟IP对外访问，所以我们需要在服务器上做IP的NAT映射来实现转换为虚拟IP对外访问。备机切换为BACKUP时执行的映射文件夹同步脚本。备机切换为MASTER时执行脚本。
2024-04-14 22:26:29
694
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人