大模型Demo初印象--书生·浦语大模型第二期实战营第二课笔记&作业

已于 2024-04-18 09:27:32 修改
阅读量246 收藏 5
点赞数 3
分类专栏： 书生浦语大模型实战营笔记 文章标签： 笔记 语言模型
于 2024-04-01 19:39:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2301_76739570/article/details/137244130
版权
本文介绍了书生·浦语大模型的趣味Demo课程，涵盖了智能对话、应用题解、图文创作等内容，以及1.8B模型、HF_hub配置、多模态模型浦语·灵笔2的部署方法，还包括Lagent工具的使用和数据分析Demo的部署步骤。
摘要由CSDN通过智能技术生成

一、课程内容

由书生·浦语角色扮演小组长【那路】为大家带来【轻松玩转书生·浦语大模型趣味 Demo】课程~

玩转书生·浦语【智能对话】、【智能体解应用题】、【多模态理解及图文创作】等趣味 Demo

课程文档：Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub

课程视频：轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili

课程作业：Tutorial/helloworld/homework.md at camp2 · InternLM/Tutorial · GitHub

二、1.8B模型部署

三、HF_hub模型config下载

四、多模态模型浦语·灵笔2部署，图文创作，视觉问答

五、Lagent 工具部署、调用 数据分析 Demo 部署

will_liam_2024
关注
专栏目录
大模型实战—用户反馈分析
04-19 6万+
大模型实战—用户反馈概要提取
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1258
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
大模型与多模态模型微调--书生·浦语大模型第二期实战营第四课笔记&作业
2301_76739570的博客
04-14 805
上海人工智能实验室，大模型配套体系，模型训练工具xtuner
大模型部署与推理-基于LMDeploy-书生·浦语大模型第二期实战营第五课笔记&作业
2301_76739570的博客
04-10 832
前向推理需要的计算量公式Cforward​2∗N2∗nlayer​∗nctx​∗dattn​– N是参数量，nlayer​nctx​dattn​分别代表层数，上下文长度，注意力维度kv cache显存占用公式Mkvcache​4∗b∗nlayer​∗dattn​∗sn–bnlayer​dattn​。
智能体agent学习--书生·浦语大模型第二期实战营第六课笔记&作业
2301_76739570的博客
04-18 868
AgentLego 是一个提供了多种开源工具 API 的多模态工具包，旨在像是乐高积木一样，让用户可以快速简便地拓展自定义工具，从而组装出自己的智能体。通过 AgentLego 算法库，不仅可以直接使用多种工具，也可以利用这些工具，在相关智能体框架（如 Lagent，Transformers Agent 等）的帮助下，快速构建可以增强大语言模型能力的智能体。：根据输入的任务，智能体自动选择一个合适的工具来执行该任务。：根据memory的输入，和上一步执行的结果，进行下一步任务的创建。
书生·浦语大模型实战营笔记-第二节 轻松玩转书生·浦语大模型趣味 Demo
qq_46212981的博客
01-06 1243
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考实现了三个demo，分别是对话模型，latant模型，以及多模态创作模型，并学习了huggingface的使用方法。
InternLM实战营第二期第2节课笔记-轻松分钟玩转书生·浦语大模型趣味 Demo
maizijieguida的博客
06-01 372
将公钥复制到InternStudio上。创建一个python文件。这样就无需输入密码了。在终端生成SSH密钥。
第二期书生浦语大模型实战营第二次课程笔记--轻松玩转书生·浦语大模型趣味 Demo
haidizym的博客
04-01 960
第二期书生浦语大模型实战营第二次课程笔记---轻松玩转书生·浦语大模型趣味 Demo
书生浦语训练营2期-第二节课—书生浦语大模型趣味 Demo笔记及作业
m0_55303420的博客
04-06 1107
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:
书生·浦语大模型实战营第二期培训笔记-轻松玩转书生·浦语大模型趣味 Demo
ycy20000127的博客
04-07 257
轻松玩转书生·浦语大模型趣味 Demo
【 书生·浦语大模型实战营】作业（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 506
🎉知识星球是一个致力于提供《机器学习 | 深度学习 | CV | NLP | 大模型 | 多模态 | AIGC 》各个最新AI方向综述、论文等成体系的学习资料，配有全面而有深度的专栏内容，包括不限于 前沿论文解读、资料共享、行业最新动态以、实践教程、求职相关（简历撰写技巧、面经资料与心得）多方面综合学习平台，强烈推荐AI小白及AI爱好者学习，性价比非常高！➡️。
第二节课《轻松玩转书生·浦语大模型趣味Demo》学习笔记
weixin_59512778的博客
04-05 829
首先运行conda命令激活环境，然后使用git命令来获得仓库内的demo文件，在tutorial里面将八戒download以及八戒chat都已经放置完成，可以直接访问然后运行，就能达到相同的效果。接下来进入开发机，在terminal中输入环境配置命令“studio-conda -o internlm-base -t demo”，命令成功执行后的结果如下。在程序下载完成之后，我们要输入运行命令，将命令复制进Terminal然后回车，在程序运行的同时，对端口环境要配置本地PowerShell。
【第7节】OpenCompass 大模型评测实战
熊猫小妖的AI世界
04-24 972
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。
书生·浦语 第二讲课程笔记
2301_76914390的博客
04-25 687
⑶杰出的综合能力：浦语·灵笔2-78基于（书生·浦语2-78模型，在13项多模态评测中大幅领先同量级多模态模型，在其中6项评测中超过 GPT-4V和 Gemini Pro.⑵准确的图文问题解答能力：浦语·灵笔2具有海量图文知识，可以准确的回复各种图文问答难题，在识别、感知、细节描述_觉推理等能力上表和惊人细节描述、视觉推理等能力上表现惊人。③0penxLab可以通过指定模型仓库的地址，以及需要下载的文件的名称，文件所需下载的位置等，直接下载模型权重文件，使用 download 函数导入核型中心的模型。
批量归一化 BN(Batch Normalization) (减少重复学习 - 加速损失收敛) + 代码实现 ——笔记2.15《动手学深度学习》
科研汪小陈的博客
11-08 1122
批量归一化固定小批量中的均值和方差，然后学习出适合的偏移和缩放； 可以加速收敛速度（比如以前学习率是0.01，现在用了批量归一化后，可以调到0.1） 不会出现之前：学习率太大的话，上面 (靠近损失的梯度) 会炸掉； 不会出现之前：学习率太小的话，下面 (靠近数据的模型参数) 会学不动； 每一个层的输出都通过均值方差放在一起了，上下层的分布都差不多是正态分布； 但一般不改变模型精度
Greiner 经典力学（多体系统和哈密顿力学）第十二章 学习笔记（Rotation About a Point）
Ivan 的专栏
11-09 1072
上一章是绕定轴转动，这章是绕定点转动。这一章明显上难度了。
Window.history API学习笔记
最新发布
常备不懈
11-12 268
在现代前端开发中，单页应用（SPA）的流行让我们对于页面的浏览历史管理需求愈加明显。`window.history` API作为浏览器提供的原生API，能够帮助开发者更加细致地控制用户的导航体验。本文将介绍`window.history` API的几个常见方法，并探讨它们的使用场景。
JavaScript面向对象笔记(4)
maoshunsheng的博客
11-10 1006
<script>//小括号表示优先级var reg = /^(abc){3}$/ // 表示abc重复3次</script>
【Effective C++】阅读笔记5
gma999的博客
11-07 918
Effective C++ 面向对象和模板相关章节
AI大模型应用实战营：微调部署教程及资源
资源摘要信息:"书生浦语大模型实战营微调部署至OpenXlab.zip" 标题中的“书生浦语大模型实战营微调部署至OpenXlab”涉及到的关键知识点包括了人工智能（AI）、大模型、自然语言处理（NLP）、模型微调（Fine-tuning...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值