(任务打卡)使用LlamaIndex和InternLM-2 1.8B实现RAG

最新推荐文章于 2024-08-12 14:30:00 发布

qq_52056976

最新推荐文章于 2024-08-12 14:30:00 发布

阅读量147

点赞数 1

文章标签： python

本文链接：https://blog.csdn.net/qq_52056976/article/details/140513360

版权

根据InternStudio的Tutorial里的相应文档，InternLM-2 1.8B未训练关于xtuner的知识，RAG效果如下：

提问：“xtuner是什么？”

使用RAG之前：

clone xtuner的repo作为知识库，再使用RAG之后：

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

qq_52056976

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
(任务打卡)使用LlamaIndex和InternLM-2 1.8B实现RAG

提问：“xtuner是什么？
复制链接

扫一扫

基于spring-ai框架实现的RAG增强检索，及ai对话demo后端服务源码

07-06

基于spring-ai框架实现的RAG增强检索，及ai对话demo后端服务源码。 Demo中演示了，根据本地客户宠物的洗澡剪毛记录，和剪毛和洗澡间隔规则，询问ai,哪些宠物应该剪毛或洗澡了。运行前准备工作： 1.Java运行环境：...

基于RAG-n算法的低成本FIR滤波器实现

10-16

【基于RAG-n算法的低成本FIR滤波器实现】主要关注的是如何通过优化算法来降低FIR滤波器的硬件实现成本。FIR滤波器因其线性相位特性和绝对稳定性在数字信号处理中广泛应用，但其较长的滤波器阶数导致较高的计算复杂度...

参与评论您还未登录，请先登录后发表或查看评论

基础岛 - llamaindex+Internlm2实现RAG实践

纸上得来终觉浅绝知此事要躬行

08-08

802

RAG流行的一个重要原因是目前的LLM所能支持的上下文token数是受限的，不能把所有信息一起扔给LLM，所以要经过检索过程的把背景信息精选、精筛，借此提高回答的正确性。但如果上下文窗口超长，已经足够把几百个文档一股脑的塞入到大模型对话的窗口，并能完美的在其中检索到事实知识，那么还有必要做任何形式的外部索引与检索，来给大模型提供知识“外挂”（RAG）吗？第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考。给模型注入新知识的方式，可以简单分为几种方式，

llamaindex+Internlm2-RAG实践

forinout的博客

08-06

621

在data文件下添加文件下面内容为书生浦语的相关教程，你也可以直接访问 [InternLM]（https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/LlamaIndex/task.md）

使用 LlamaIndex 部署本地 Mistral-7b 大模型实现 RAG

spicy_chicken123的博客

01-24

2368

默认情况下，LlamaIndex 使用 OpenAI 的模型，然而由于 OpenAI 的网站在国内无法访问，故使用本地下载好的模型代替之。

L1-llamaindex+Internlm2 RAG实践

weixin_51449774的博客

07-28

747

写在最前面：这里以在服务器上部署LlamaIndex为例。

llamaindex+Internlm2 RAG实践

Rocket,Qian的博客

08-09

915

记录llamaindex+Internlm2 RAG实践过程

书生大模型实战营-基础关卡-4-llamaindex+Internlm2 RAG实践

微风❤水墨

08-08

174

修改问题，重新再提问：至少知道我是写博客的了。data下添加一个介绍我csdn的文档。先试试官方的示例：无RAG。先试试官方的示例：有RAG。

基础岛-4.《llamaindex+Internlm2 RAG实践》-学习笔记

weixin_43806237的博客

08-10

610

将问题A定义为："xtuner是什么?分别进行测试回答。

书生浦语大模型之llamaindex+Internlm2 RAG实践

2301_80313103的博客

08-04

897

书生·浦语大模型之llamaindex+Internlm2 RAG实践篇

InternLM Task-L1 InternLM+LlamaIndex RAG实践

qq_58700285的博客

08-09

4、下载 Sentence Transformer 模型。1、创建开发机（点击选择镜像使用。3、安装LlamaIndex和相关包。镜像，然后在资源配置中，使用。的选项），接入VScode。2、配置环境，下载需要的库。5、下载NLTK相关资源。

《AI大模型应用》--唐诗三百首RAG检索增强生成.zip

07-15

个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。... 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。... 个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。... 个人深耕AI大模型应用领域积累的成果...

RAG部署-使用TensorRT-LLM在Windows上部署检索增强生成聊天机器人RAG-优质大模型部署项目实战.zip

04-09

2. **模型下载与加载**：从Hugging Face的Model Hub下载RAG模型，然后使用Transformers库加载模型。这可能涉及到对模型进行微调，以适应特定的对话任务和知识源。 3. **知识库集成**：构建一个知识库，可以是结构化...

《AI大模型应用》--检索增强生成RAG示例，支持OpenAI风格的大模型服务.zip

07-15

大模型微调工具-torchtune

weixin_40777649的博客

08-08

900

1.定义2.安装3. 案例。

Python 算法交易实验80 QTV200日常推进-目标估算

yukai08008的博客

08-10

440

业务目标在先，月利3%是第一个目标。虽然日常有在常规推进，但目标是什么？现在做的是什么？与目标的关联是什么？业务上讲，如果月利能够达到3%(几何平均)，上下波动不超过1%，就算达标了(2%~4%)。考虑到金融领域有不可测风险，所以资金还会分摊到3个月。例如，假如总投资资金是30万，那么每个月的最大投资金额是10万。这样即使遇到大跳水，问题也不大。目标达到的话，10万本金每月的盈利是3000，按复利计,24个月就会double，我觉得已经足够理想。假设投资90万，则可以按30万计算复利效果。

网络安全入门教程（非常详细）从零基础入门到精通，看完这一篇就够了。

最新发布

2401_84466359的博客

08-12

306

这个方向更符合于大部分人对“黑客”的认知，他们能够黑手机、黑电脑、黑网站、黑服务器、黑内网，万物皆可黑（当然是要有授权的，不然进橘子我可不管），这个方向初期比较容易入门一些，掌握一些基本技术，拿起各种现成的工具就可以开黑了。是一种面向对象、直译式电脑编程语言，具有近二十年的发展历史，成熟且稳定。压箱底的好资料，全面地介绍网络安全的基础理论，包括逆向、八层网络防御、汇编语言、白帽子web安全、密码学、网络安全协议等，将基础理论和主流工具的应用实践紧密结合，有利于读者理解各种主流工具背后的实现机制。

NVIDIA-CUDA

qq_41081716的博客

08-08

426

CUDA 是一种强大的并行计算平台，它极大地扩展了 GPU 的用途，使其不仅仅局限于图形处理。通过利用 CUDA，开发人员可以编写高效、高性能的并行应用程序，这些应用程序可以用于各种计算密集型任务。如果您正在从事高性能计算或需要加速计算任务的工作，CUDA 是一个非常有用的工具。

RAG - 使用 langchain

02-28

RAG（Retrieval-Augmented Generation...5. 微调RAG模型：使用特定任务的数据集对RAG模型进行微调，以提高生成文本的质量和相关性。 6. 应用RAG模型：将微调后的RAG模型应用于特定的应用场景，如问答系统、文本摘要等。