llamaindex+Internlm2 RAG实践

最新推荐文章于 2024-09-26 17:20:50 发布
最新推荐文章于 2024-09-26 17:20:50 发布
阅读量177 收藏 1
点赞数 6
文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2402_85073544/article/details/141753881
版权

1、开发机配置与前面几关都不一样

镜像：Cuda11.7-conda

资源配置：30% A100 * 1

2、创建新的conda环境，命名为 llamaindex，在该环境配置python的虚拟环境，激活环境后，进入llamaindex环境

3、安装 Llamaindex→下载 Sentence Transformer 模型→下载 NLTK 相关资源→LlamaIndex HuggingFaceLLM

经过上述步骤，可以得到如下图的结果：xtuner的回答效果并不好

4、LlamaIndex RAG ——通过RAG 技术实现的新增知识问答

可得到结果为如下图：xtuner的回答较好

5. LlamaIndex web网页版

运行相关代码后可获取网页

然后进行端口映射，进入网页版，询问问题，如下图：

joo686
关注
LlamaIndex 实现 RAG （一）
hawk2014bj的博客
08-22 1033
本文简单实现 RAG 的流程，并实现了可视化页面，关于文档的切分以及 RAG 不同组件的详细讲解，会在后续文章继续分享。代码地址：https://gitcode.com/hawk2014bj/llamaindex/overview源代码也可以从资源中下载。
【大模型应用开发 动手做AI Agent】LlamaIndex和基于RAG的AI开发
AI天才研究院
05-27 761
随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)在各个领域得到了广泛应用。LLMs通过从大规模文本语料中学习,可以生成连贯、自然的文本,完成复杂的自然语言处理任务。然而,LLMs仍然存在知识储备有限、推理能力不足等问题。为了进一步增强LLMs的能力,学术界和工业界开始探索LLMs与其他技术的结合,比如知识图谱、检索增强生成(Retrieval-Augmented Generation, RAG)等。
基础岛 - llamaindex+Internlm2实现RAG实践
纸上得来终觉浅 绝知此事要躬行
08-08 915
RAG流行的一个重要原因是目前的LLM所能支持的上下文token数是受限的，不能把所有信息一起扔给LLM，所以要经过检索过程的把背景信息精选、精筛，借此提高回答的正确性。但如果上下文窗口超长，已经足够把几百个文档一股脑的塞入到大模型对话的窗口，并能完美的在其中检索到事实知识，那么还有必要做任何形式的外部索引与检索，来给大模型提供知识“外挂”（RAG）吗？第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考。给模型注入新知识的方式，可以简单分为几种方式，
llamaindex+Internlm2-RAG实践
forinout的博客
08-06 666
在data文件下添加文件下面内容为书生浦语的相关教程，你也可以直接访问 [InternLM]（https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/LlamaIndex/task.md）
书生实战营llamaindex+Internlm2 RAG实践
fotonice的博客
07-29 198
个人对RAG的理解，并不对大语言模型进行微调，而是为其增加一个知识库，该知识库的的输入可以是word，pdf等格式文字，这些文字通过词嵌入向量模块后被转化为词向量储存，当用户进行提问时，问题也会被转化为词向量，问题向量会在知识向量库中寻找最相关，也就是距离最近的知识向量，然后将原始的用户问题和该知识共同作为提示，输入到大模型中，生成最终问答。然后是在web上对llm进行询问，这个需要ssh连接，参考L0中的Linux课程，否则无法打开local网址。可以看出效果不好，模型并没有学习过xtuner的知识。
使用RAGAs + LlamaIndex进行RAG评估
安静的软件工程师
02-24 2067
使用RAGAs + LlamaIndex进行RAG评估
【解决方案】RAG实践：ES混合搜索BM25+kNN(cosine)
天然玩家的博客
07-07 1847
本系列分为两大部分：**实践**和**理论**。 **先讲**实践，**应对快速开发迭代**，可快速上手实践； **再讲**理论，**应对优化**，如归一化。
LlamaIndex RAG 开发
08-22
LlamaIndex RAG 开发，模型接入，文档索引，可视化操作。
基于深度学习的多智能体协作
weixin_42605076的博客
09-23 1032
基于深度学习的多智能体协作是一种通过多个智能体相互协作完成复杂任务的框架，利用深度学习技术来优化智能体之间的合作与决策过程。多智能体系统广泛应用于自动驾驶、机器人群体、游戏AI、资源调度、无人机编队等领域，其中每个智能体通常具有自主性，并与其他智能体共享信息或协同工作，以共同实现全局目标。
[论文总结] 深度学习在农业领域应用论文笔记13
You and Me
09-25 1147
这篇论文的立意是从实际出发的，与很多根据卫星图像来预测产量的文章不同，该研究的目的强调了不是产量预测而是提出使用棉花种植区块产量和纤维质量（长度和微米）数据来说明作物生产数据的缩小区域观测的通用方法。在实验数据方面，采用了澳大利亚11个种植区域2年生长季节260天的生长数据，8种不同植被指数、32个协变量和棉花的产量和棉纤维微米（质量）以及总共有约25张卫星图像可用于 NNSW区域，约70 张图像可用于SNSW区域。数据量挺大的，做的内容也具有实际意义。挺好的一篇文章。
在深度学习中，是否应该打破正负样本1:1的迷信思想？
Angelina_Jolie的博客
09-25 750
如果任务很简单（如上图第一行的数据分布，线性可分） ，那么即便有很悬殊的正负样本数量比例（如最右侧，正负样本 1:100），也不影响模型可以直接在原始数据上学习得到一个完美的分类边界，并实现 0 错误率：见下图第一行，即使 IR=100 模型也可以实现 0 分类错误（分类错误的 sample 由红色表示）。但通常我们都更加关心少数类样本（positive cases，例如医疗诊断中的病人、欺诈/攻击检测中的恶意用户等）并使用 balanced accuracy，macro-f1 等 metric。
用于MRI重建的具有全局感受野的傅里叶卷积块|文献速递--基于多模态-半监督深度学习的病理学诊断与病灶分割
最新发布
weixin_38594676的博客
09-26 916
在本研究中，我们提出了一种新颖的全局傅里叶卷积块（FCB），具有整个图像的感受野和较低的计算复杂度，通过将常规的空间域卷积转化为频率域实现。在本研究中，我们提出了一种新颖的全局傅里叶卷积块（FCB），具有整个图像的感受野和较低的计算复杂度，通过将常规的空间域卷积转化为频率域实现。这意味着，虽然傅里叶域中的卷积核 W 大小与输入相同，但它的空间对应物可以是一个大小为 K × K 的零填充卷积核，大小范围从 1 × 1 到输入大小 N × N 不等。顶部显示了8×加速的结果，底部显示了12×加速的结果。
cnn机器学习时python版本不兼容报错
所念皆星河
09-22 214
A module that was compiled using NumPy 1.x cannot be run in NumPy 2.1.1 as it may crash. To support both 1.x and 2.x versions of NumPy, modules must be compiled with NumPy 2.0. Some module may need to rebuild instead e.g. with 'pybind11>=2.12'.
深度学习：神经网络--手写数字识别
纸上得来终觉浅
09-22 1873
神经网络--手写数字识别
【深度学习】（4）--卷积神经网络
m0_74896766的博客
09-22 1530
本篇介绍了卷积神经网络的结构以及它的优点： 1. 卷积神经网络能够将变换的物体识别出来。 2. 卷积神经网络的结构：由输入层、卷积层、激活层、池化层、全连接层、输出层组成。 3. 什么是感受野。
深度学习：（六）激活函数的选择与介绍
qq_51409113的博客
09-22 1611
详细介绍了四种激活函数
【NLP】循环神经网络--RNN学习.day3
alb3117149013的博客
09-25 1039
循环神经网络（Recurrent Neural Network, RNN）是一种用于处理序列数据的深度学习模型。与传统的静态神经网络相比，RNN 可以有效处理输入数据的时间序列特性。这使得 RNN 在处理自然语言处理（NLP）、时间序列预测、音频处理等任务时非常有效。以下是对 RNN 的详细解释。
深度学习==CNN卷积神经网络手写数字识别
hebian1994的博客
09-22 356
flask api调用模型。使用刚才训练好的模型。
prompt+rag
11-17
根据提供的引用内容，可以得知prompt+RAG的流程如下： 1. 首先，使用Retriever部分在知识库中检索出top-k个匹配的文档zi。 2. 然后，将query和k个文档拼接起来作为QA的prompt，送入seq2seq模型。 3. seq2seq模型...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值