AI人工智能
文章平均质量分 96
Alex_81D
修身,赚钱,助人,玩天下
展开
-
【LLM01】基于LangChain+LLM的本地知识库问答:什么是LangChain及langchain的整体组成架构
过去半年,随着ChatGPT的火爆,直接带火了整个LLM这个方向,然LLM毕竟更多是基于过去的经验数据预训练而来,没法获取最新的知识,以及各企业私有的知识为了获取最新的知识,ChatGPT plus版集成了bing搜索的功能,有的模型则会调用一个定位于 “链接各种AI模型、工具”的langchain的bing功能为了处理企业私有的知识,要么基于开源模型微调,要么更可以基于langchain里集成的向量数据库和LLM搭建本地知识库问答(此处的向量数据库的独特性在哪呢?转载 2024-04-10 21:45:00 · 45 阅读 · 0 评论 -
大模型系列——解读RAG
RAG即检索增强生成,为 LLM 提供了从某些数据源检索到的信息,并基于此修正生成的答案。RAG 基本上是 Search + LLM 提示,可以通过大模型回答查询,并将搜索算法所找到的信息作为大模型的上下文。查询和检索到的上下文都会被注入到发送到 LLM 的提示语中。嵌入式搜索引擎可以通过 Faiss 来实现,向量搜索领域成为了RAG的一个助力。像pinecone 这样的向量数据库可以构建开源搜索索引,为输入文本增加了额外的存储空间,还增加了一些其他工具。关于向量数据库,可以参考解读向量数据库。原创 2024-04-07 20:15:00 · 1683 阅读 · 0 评论 -
提升LLM效果的几种简单方法
对于知识库问答,现在有两种方案,一种基于llamaindex,一种基于langchain +LLM,我们目前采用的就是后者,先来看一下这个方式的技术架构图:使用 LangChain 或 LlamaIndex 等框架,可以使用大约五行代码就构建一个简单的问答系统,例如文档的聊天机器人。但是,用这五行代码构建的机器人效果就可能差强人意了。接下来我们说一下如何从理论上来提高LLM的问答效果。原创 2024-04-01 23:15:00 · 943 阅读 · 0 评论