书生·浦语大模型实战营笔记-第三节作业

最新推荐文章于 2024-09-11 14:42:29 发布
最新推荐文章于 2024-09-11 14:42:29 发布
阅读量489 收藏 6
点赞数 7
文章标签： 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46212981/article/details/135488056
版权
本文详细记录了书生·浦语大模型实战营第三节的作业，主要涉及知识库助手的搭建过程，包括环境配置、数据准备、知识库构建、检索问答链的建立以及WebDemo的实现。
摘要由CSDN通过智能技术生成

书生·浦语大模型实战营笔记-第三节作业

知识库助手搭建过程

1.环境配置
2.数据准备
在这里插入图片描述

3.知识库搭建

4.检索问答链构建
在这里插入图片描述
5.WebDemo
在这里插入图片描述

biscuit279
关注
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1686
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生·浦语大模型实战营笔记-第二节作业
qq_46212981的博客
01-06 454
过程如下结果如下。
书生·浦语大模型实战营笔记-第二节 轻松玩转书生·浦语大模型趣味 Demo
qq_46212981的博客
01-06 1193
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考实现了三个demo，分别是对话模型，latant模型，以及多模态创作模型，并学习了huggingface的使用方法。
书生·浦语大模型实战营笔记-第四节作业
qq_46212981的博客
01-12 482
个人小助手认知微调：通过微调让模型了解自己身份。
书生·浦语大模型实战营笔记-第四节 XTuner 大模型单卡低成本微调实战
qq_46212981的博客
01-12 1101
介绍Finetune和XTunner的概念。并微调Xtuner两种微调模式：增量预训练、指令跟随增量预训练：用文章、数据、代码等让基座模型学到一些新知识指令跟随：用高质量的对话和问答数据让模型学会对话模板指令微调之前，模型不知道自己要回答一个问题支持热门数据集的映射支持多数据的样本拼接如果要用别的数据集进行微调，需要将数据转换成Xtuner的格式准备配置文件运行xtuner微调然后把pth转换成Huggingface格式。
书生·浦语大模型实战营笔记-第一节 书生·浦语大模型全链路开源体系
qq_46212981的博客
01-05 632
从数据、预训练、微调、部署、评测、应用等方面介绍了intern-LM的开源工具一套很全面的大模型开源体系，包含了数据、预训练、微调、部署、评测、智能体应用等方面。
书生·浦语大模型实战营笔记-第六节 OpenCompass 大模型评测
qq_46212981的博客
01-22 600
介绍大模型评测的基本知识，OpenCompass工具介绍，并实现一个评测的demo提示：以下是本篇文章正文内容，下面案例可供参考主要介绍了模型评测的基础知识，opencompass工具的使用方法，随后实现了internlm7b模型在C-Eval数据集下的效果。
书生·浦语大模型实战营笔记-第五节 LMDeploy大模型量化部署实践
qq_46212981的博客
01-15 1014
本文介绍大模型部署的背景知识，并介绍LMDeploy工具，并实现一个部署demoLLM在英伟达设备上的部署方案，包含模型轻量化、推理和服务推理性能：静态（固定batch和输出输入的token数目）：小batch下性能是fp16的两倍，batch越大加速效果越不明显动态（输入输出不定长）：精度优于vLLM框架本文主要介绍了模型量化和LMDeploy的基本应用，并实现了几个部署的demo。
书生·浦语大模型实战营笔记-第三节 基于 InternLM 和 LangChain 搭建你的知识库
qq_46212981的博客
01-09 1142
介绍基于基于 InternLM 和 LangChain 搭建知识库的概念、思路和步骤LangChain是为LLM提供通用接口，用来简化开发流程核心组成模块是Chains：用于将组建组合实现端到端的应用下图展示了基于LangChain搭建RAG应用的步骤主要学习了大模型开发的RAG范式，并基于LangChain工具实现了一个检索问答的demo。
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
【第1节】书生·浦语大模型全链路开源开放体系
熊猫小妖的AI世界
04-17 1411
书生·浦语 InternLM介绍InternLM 是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM 基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合 RLHF 等技术，使得 InternLM 可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。
书生·浦语 第二讲课程笔记
2301_76914390的博客
04-25 652
⑶杰出的综合能力：浦语·灵笔2-78基于（书生·浦语2-78模型，在13项多模态评测中大幅领先同量级多模态模型，在其中6项评测中超过 GPT-4V和 Gemini Pro.⑵准确的图文问题解答能力：浦语·灵笔2具有海量图文知识，可以准确的回复各种图文问答难题，在识别、感知、细节描述_觉推理等能力上表和惊人细节描述、视觉推理等能力上表现惊人。③0penxLab可以通过指定模型仓库的地址，以及需要下载的文件的名称，文件所需下载的位置等，直接下载模型权重文件，使用 download 函数导入核型中心的模型。
【第7节】OpenCompass 大模型评测实战
熊猫小妖的AI世界
04-24 869
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。
STM32学习笔记（二、初识stm32单片机）
tommorrowwill的博客
09-10 777
首先stm32是意法半导体公司（ST）使用ARM公司的Cortex-M为核心生产的32位的单片机。其中，ST---意法半导体公司，即SOC厂商。M---为Microelectronics的缩写，即微型处理器。32---表示控制器为32位的。103---表示F系列的子系列。
C++学习笔记----6、内存管理（五）---- 智能指针（3）
weixin_71738303的博客
09-11 1152
与指向特定类型的原始指针可以转化为不同类型的指针一样，shared_ptr保存特定的类型可以转化为一个另一种类型的shared_ptr。转化shared_ptr的函数是const_pointer_cast()，dynamic_pointer_cast(),static_pointer_cast()和reinterpret_pointer_cast()。前面简要提过，当拥有共享属主的智能指针，例如shared_ptr不在活动范围或者被重置时，只有它是最后指向的智能指针时才能释放其指向的资源。
UEFI学习笔记（五）：EDK II PCD的概念、类型、使用
最新发布
qq_44189622的博客
09-11 825
如果在BIOS里面有一些模块是binary方式集成进来的而这些binary又需要用到PCD（用于Binary Release），那么这些Binary集成的要用到的PCD就必须要设置为。PCD的值存在memory里面，下次启动时，上次更改的值丢失了，每次启动都是从default值开始。是存在VPD空间的（在FLASH上，只读），一般是出厂配置。如果platform是从源码build出来的，没有binary在里面的时候，PCD用的都是。作用域在一个模块中（模块级的），可以在Binary Level进行修改。
OJ在线判题系统项目笔记
今天不coding的博客
09-11 768
OJ在线判题系统项目笔记
经验笔记：Web 浏览器存储手段
qq_45831414的博客
09-10 874
以上就是使用 IndexedDB 的基本步骤。IndexedDB 提供了强大的数据存储能力，并且可以通过索引来优化数据检索性能。在实际应用中，可能还需要处理更复杂的场景，比如数据迁移、错误处理等。务必确保你的代码能够妥善处理各种异常情况。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值