InternLM实训营第二期初夏专场
文章平均质量分 94
m0_46680352
这个作者很懒,什么都没留下…
展开
-
第六课Lagent & AgentLego 智能体应用搭建
课程链接。原创 2024-06-18 11:57:08 · 846 阅读 · 0 评论 -
第六课:Agent 工具能力微调
为了让大语言模型连接到外部工具,OpenAI 推出了 Function calling 的功能。在 调用 OpenAI 的 API 时,可以描述函数并让模型智能地选择要输出的 JSON 对象,其中包含传递给一个或多个函数的参数。更多信息可以参考:https://platform.openai.com/docs/guides/function-calling。Chat Completions 的相关 API 并不会调用函数;相反,我们可以在自己的代码中根据模型的输出来实现调用函数的逻辑。原创 2024-06-18 11:55:38 · 815 阅读 · 0 评论 -
第六课:AgentLego:组装智能体“乐高”
在本节中,我们将基于 AgentLego 构建自己的自定义工具。AgentLego 在这方面提供了较为详尽的文档,文档地址为 https://agentlego.readthedocs.io/zh-cn/latest/modules/tool.html。继承 BaseTool 类修改 default_desc 属性(工具功能描述)如有需要,重载 setup 方法(重型模块延迟加载)重载 apply 方法(工具功能实现)其中第一二四步是必须的步骤。原创 2024-06-18 11:53:19 · 627 阅读 · 0 评论 -
第六课:lagent框架
在本节中,我们将基于 Lagent 自定义一个工具。Lagent 中关于工具部分的介绍文档位于 https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html。继承 BaseAction 类实现简单工具的 run 方法;或者实现工具包内每个子工具的功能简单工具的 run 方法可选被 tool_api 装饰;工具包内每个子工具的功能都需要被 tool_api 装饰下面我们将实现一个调用和风天气 API 的工具以完成实时天气查询的功能。原创 2024-06-18 11:39:06 · 673 阅读 · 0 评论 -
第七课:OpenCompass 大模型评测实战
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0),用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现:提供公平、公开、可复现的大模型评测方案全面的能力维度:五大维度设计,提供 70+ 个数据集约 40 万题的的模型评测方案,全面评估模型能力丰富的模型支持:已支持 20+ HuggingFace 及 API 模型分布式高效评测:一行命令实现任务分割和分布式评测,数小时即可完成千亿模型全量评测。原创 2024-06-14 16:29:49 · 612 阅读 · 0 评论 -
第五课LMDeploy量化
一只老虎躺在草地上。TurboMind是LMDeploy团队开发的一款关于LLM推理的高效推理引擎,它的主要功能包括:LLaMa 结构模型的支持,continuous batch 推理模式和可扩展的 KV 缓存管理器。模型在运行时,占用的显存可大致分为三部分:模型参数本身占用的显存、KV Cache占用的显存,以及中间运算结果占用的显存。由于官方的Llava模型对中文支持性不好,因此如果使用中文提示词,可能会得到出乎意料的结果,比如将提示词改为“请描述一下这张图片”,你可能会得到类似《印度鳄鱼》的回复。原创 2024-06-14 15:09:17 · 723 阅读 · 0 评论 -
第四课Xtuner微调
教程视频教程链接笔记分为三大部分,分别为教程,作业,思考。在本节中主要就是带领着大家跑通了 XTuner 的一个完整流程,通过了解数据集和模型的使用方法、配置文件的制作和训练以及最后的转换及整合。那在后面假如我们也有想要微调出自己的一个模型,我们也可以尝试使用同样流程和方法进行进一步的实践!原创 2024-06-01 21:17:45 · 979 阅读 · 1 评论 -
实训营第三课RAG
RAG:RAG 是什么、原理、RAG vs. Fine-tune、架构、向量数据库、评估和测试茴香豆介绍、茴香豆的特点、架构、构建步骤实践演示:茴香豆 Web 版演示InternLM Studio 部署茴香豆知识助手RAG技术应用前后对比RAG可以在不重新训练模型的前提下进行外在知识信息的挂载,让模型高效的学习新的知识和信息并向量化存储RAG技术概述可以和多模态结合应用,进行多模态检索分为检索、生成和索引三个重要组成部分向量数据库RAG工作流程。原创 2024-05-27 20:12:03 · 975 阅读 · 0 评论 -
第二节课趣味Demo
Lagent 是一个轻量级、开源的基于大语言模型的智能体(agent)框架,支持用户快速地将一个大语言模型转变为多种类型的智能体,并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:原创 2024-05-24 18:05:10 · 702 阅读 · 0 评论 -
internlm第一节课程笔记
本笔记为书生浦语大模型实战营第二期初夏专场第一节课程的笔记视频链接论文链接教程链接课程介绍了书生浦语大模型全链路开源体系,包括大模型的发展趋势、开源历程、数据集、预训练框架、微调工具、部署解决方案、评测体系和智能体框架。回归语言建模的本质,在更小的模型上取得优异的性能模型的优势和亮点模型微调基本方式XTuner微调框架本次课程主要介绍了书生浦语大模型的发展历程,独特优势和亮点,以及书生浦语全链路开源体系为开源做出巨大贡献。原创 2024-05-23 09:52:42 · 442 阅读 · 0 评论