书生大模型训练营——LlamaIndex RAG实践

最新推荐文章于 2024-09-27 12:05:02 发布
最新推荐文章于 2024-09-27 12:05:02 发布
阅读量84 收藏
点赞数 2
文章标签： linux 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Yang0114_/article/details/142580976
版权

首先按照要求配置环境、下载模型、数据。

当直接询问internlm2 2023年发生哪些大事时，模型不能够回答。

从网上找到了新华社评选的2023年国际上的十大新闻，借助RAG技术后，就能获得我们想要的答案了。

Ys2025
关注
【 书生·浦语大模型实战营】学习笔记（三）：“茴香豆” 搭建你的RAG 智能助理
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 1086
本篇笔记内容主要分为RAG理论介绍和“茴香豆” RAG 智能助理实战。前半部分对RAG流程、向量数据库、优化等展开介绍，后半部分实战任务分为以web页面及Internlm框架进行茴香豆实战，欢迎大家交流学习！
（第三期）书生大模型实战营——Llamaindex RAG实践
a_blade_of_grass的博客
07-27 1008
本文任务及教程来自书生大模型实战营，
书生大模型实战营基础（4）——Llamaindex RAG实践
x1664的博客
08-30 839
正式介绍（Retrieval Augmented Generation，RAG）技术以前，大家不妨想想为什么会出现这样一个技术。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考技术报告。第二种方式，并不改变模型的权重，只是给模型引入格外的信息。
书生.浦江大模型实战训练营——（七）InternLM + LlamaIndex RAG 实践
weixin_63866037的博客
08-11 621
大模型RAG（Retrieval-Augmented Generation）是一个结合了信息检索和生成模型的技术框架。它旨在通过引入外部知识源来增强生成模型的能力。
书生大模型实战营第三期基础岛第四课——llamaindex+Internlm2 RAG实践
weixin_42567071的博客
08-28 1003
ps：这个数据集是复制电子书的，所以上面会有一些乱码和符号，需要自己清理一下，否则模型也是回答不出来。运行脚本，看看RAG技术后模型输出是否有认识xtuner。这样使用时服务器即会自动使用已有资源，无需再次下载。模型居然认为xtuner是一个音乐播放器。整了点医学知识后，回答就专业很多。模型回答的很随意，看着像瞎编。运行脚本，看模型输出效果。模型给出了我们想要的答案。现在从openxlab的。再次部署模型，并访问。
第三期书生大模型实战营——基础岛
junkmachine的博客
08-09 369
【书生·浦语大模型全链路开源开放体系】 https://www.bilibili.com/video/BV18142187g5/?视频里介绍了书生浦语大模型的开源开放体系，包括了其的技术发展、模型架构、开源生态等。其核心技术思路包括：- 模型能力飞轮：广泛使用模型参与自身迭代，加速能力提升；- 高质量合成数据：包括基于规则的数据构造、基于模型的数据扩充、基于反馈的数据生成。融合了多种数据合成方案，提升合成数据质量；
书生大模型实战营（第3期）闯关记录（基础岛-Llamaindex RAG实践）
qq_41884932的博客
07-31 921
给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考InternLM2技术报告。第二种方式，并不改变模型的权重，只是给模型引入格外的信息。类比人类编程的过程，第一种方式相当于你记住了某个函数的用法，第二种方式相当于你阅读函数文档然后短暂的记住了某个函数的用法。对比两种注入知识方式，第二种更容易实现。
书生大模型实战营（暑假场）基础岛关卡四——InternLM + LlamaIndex RAG 实践
HJL1228的博客
08-17 851
InternLM + LlamaIndex RAG 实践。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考InternLM2技术报告。:（我们也可以选用别的开源词向量模型来进行 Embedding，目前选用这个模型是相对轻量、支持中文且效果较好的，同学们可以自由尝试别的开源词向量模型）
《书生大模型实战营第3期》进阶岛 第3关： LMDeploy 量化部署进阶实践
shiter编写程序的艺术
08-17 613
注释：实验室提供的环境为虚拟化的显存，nvidia-smi是NVIDIA GPU驱动程序的一部分，用于显示NVIDIA GPU的当前状态，故当前环境只能看80GB单卡 A100 显存使用情况，无法观测虚拟化后30%或50%A100等的显存情况。模型在运行时，占用的显存可大致分为三部分：模型参数本身占用的显存、kv cache占用的显存，以及中间运算结果占用的显存。让我们回到LMDeploy，在最新的版本中，LMDeploy使用的是AWQ算法，能够实现模型的4bit权重量化。输入以下指令，执行量化工作。
LlamaIndex RAG 开发
08-22
LlamaIndex RAG 开发，模型接入，文档索引，可视化操作。
大模型-大模型RAG应用基础认知视频
03-16
本视频系列专注于大模型的一个具体应用——RAG（Retrieval-Augmented Generation），这是一种结合检索和生成的新型NLP技术，旨在提高模型的上下文理解和回答生成质量。 **大模型RAG应用基础认知** 1. **什么是RAG*...
大模型微调和RAG的应用场景
热门推荐
herosunly的博客
06-19 9万+
本文主要介绍了大模型微调和RAG的应用场景，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 大模型微调 vs. RAG
【大模型应用开发 动手做AI Agent】LlamaIndex和基于RAG的AI开发
AI天才研究院
05-27 763
随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)在各个领域得到了广泛应用。LLMs通过从大规模文本语料中学习,可以生成连贯、自然的文本,完成复杂的自然语言处理任务。然而,LLMs仍然存在知识储备有限、推理能力不足等问题。为了进一步增强LLMs的能力,学术界和工业界开始探索LLMs与其他技术的结合,比如知识图谱、检索增强生成(Retrieval-Augmented Generation, RAG)等。
项目实战：Qt+OSG爆破动力学仿真三维引擎测试工具v1.1.0（加载.K模型，子弹轨迹模拟动画，支持windows、linux、国产麒麟系统）
09-23 3994
1.使用osg三维引擎进行动力学模型仿真性能测试；2.打开动力学仿真模型文件，.k后缀的模型文件，测试加载解析过程；3.解决第三方company的opengl制作的三维引擎，绘制面较多与弹丸路径模拟较卡顿的问题；4.测试时，使用的模型为公开模型，基础面数量达到160多万个；5.测试时，模拟动画使用的时100万条弹丸路径平行飞射出去；
【Linux实践】实验四：Shell实用功能及文件权限
Fulling的博客
09-25 761
实验内容 1、使用命令“cat /etc/named.conf”设置为别名named，然后再取消别名。 2、使用echo命令和输出重定向创建文本文件/root/nn，内容是hello，然后再使用追加重定向输入内容为word。 3、使用管道方式分页显示/etc/passwd的内容。 4、分别用文字设定法和数字设定法，对/root/ab文件设置权限，所有者为读取、写入和执行权限，同组用户为读取和写入权限，其他用户没有任何权限。 5、将文件/root/ab所有者更改为用户zhangsan。 6、将目录/root/
Linux 安装redis主从模式+哨兵模式3台节点
最新发布
一千个读者就有一千个哈姆雷特
09-27 363
Linux 安装redis主从模式+哨兵模式3台节点
【linux】gcc makefile
Quietcoder的博客
09-24 1123
在静态链接中，链接器（如GNU的。
linux 源代码编译
Lxn2zh的博客
09-27 1309
有时候会在linux上下载源码包，然后进行编译成可执行的文件，这个过程需要经过configure、make、make install、make clean四个步骤。configure 为这个程序在当前的操作系统环境下选择合适的编译器和环境参数来编译该代码。make install 将已编译好的可执行文件安装到操作系统指定或默认的安装目录下。make 对程序代码进行编译操作，会将源码编译成可执行的目标文件。make clean 删除编译时临时产生的目录或文件。
系统架构设计师教程：大模型RAG检索语料参考
在【标题】中提到的“RAG”通常代表风险、合规性和治理（Risk, Assurance, Governance），但在这个上下文中并未直接涉及，可能是因为标签有误或者文件内容中没有涵盖这一主题。因此，我们将重点放在描述中的“系统...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值