【书生·浦语大模型实战营第二期】学习笔记2

最新推荐文章于 2024-11-12 21:54:10 发布
最新推荐文章于 2024-11-12 21:54:10 发布
阅读量413 收藏 1
点赞数 6
分类专栏： # LLM 文章标签： 学习 笔记 书生·浦语 huggingface huggingface_hub InternLM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_61819793/article/details/137225838
版权

InternLM-chat-1.8B智能对话

image.png

internlm/internlm2-7b模型下载

from huggingface_hub import snapshot_download

# repo_id是huggingface上用于模型标识的id，allow_patterns通过正则匹配实现选择性地下载repo中的文件
snapshot_download(repo_id="internlm/internlm2-7b", allow_patterns="*.json", local_dir="/root/demo/model")

image.png
另外，浦语·灵笔相关的图文创作和视觉问答以及lagent工具调用参考我书生·浦语第一期的学习笔记

参考资料

  1. hub python library download files
  2. 如何优雅的下载huggingface-transformers模型
  3. 书生·浦语实战营第二期趣味demo
自律版光追
关注
专栏目录
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1809
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生·浦语大模型实战营第二期学习笔记及作业（7）
qq_39310059的博客
04-26 1390
视频链接：OpenCompass 大模型评测实战_哔哩哔哩_bilibiligithub教程链接：https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md1、大模型评测的重要性以及评测所面临的挑战，并详细讲解了司南评测体系2.0的实现方法和特点。首先，研究评测对于我们全面了解大型语言模型的优势和限制至关重要。尽管许多研究表明大型语言模型在多个通用任务上已经达到或超越了人类水平，但仍然存在质疑，即这些模型的能力是否只是对训练数据
书生浦语大模型实战营第三期 L1 书生大模型全链路开源体系学习笔记
yizhiboshanshan的博客
07-24 274
总结：书生·浦语大模型构建了全链路开源体系，并深入介绍了其发展历程与独特特点。大模型作为通用人工智能的关键路径，已展现出解决多元化任务与模态的强大能力。具体而言，书生葡语大模型凭借其超长上下文处理能力，实现了综合性能的全面飞跃，不仅支持结构化创作，还确保了数据分析的可靠性。此外，该模型还强化了内生计算能力并集成了先进的代码解释器，在多个能力维度上均取得了优异的评测成绩。
书生浦语大模型实战营第三期 L2 MindSearch 快速部署学习笔记
yizhiboshanshan的博客
08-28 331
最后，将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署。硅基流动提供了免费的 InternLM2.5-7B-Chat 服务，MindSearch 的部署与使用进一步降低了部署门槛。来准备 API Key。首先创建新 API 密钥，然后点击密钥进行复制，以备后续使用。来注册硅基流动的账号，在完成注册后，打开。
书生·浦语大模型实战营第二期学习笔记（1）
qq_39310059的博客
03-30 714
个人感悟：之前没有接触过使用过大模型，对大模型使用部署流程不了解，改视频初步了解了书生浦语开源大模型。通过深度学习和海量数据的训练，大模型能够实现对复杂问题的精确处理，极大地提升了人工智能系统的性能和应用范围。在接下来的训练营中如何使用书生·浦语大模型，通过亲身参与一整套大模型的应用流程，深入体验了大模型如何运作，并学会了如何运用模型微调、参数训练和模型部署等关键技术来完成实际的小项目。浦语大模型的全链路开源体系，重点在于通用人工智能的发展趋势，特别是从特定任务模型向通用大模型的转变，以及书生模型在。
书生·浦语大模型实战营第二期学习笔记及作业（2）
qq_39310059的博客
04-02 321
模型和智能对话模型，回答的内容差不多，猪猪模型是以猪猪的口吻来回答。期待后续微调，并找了队友准备申请网络流量分类方面的项目，希望能微调出项目所需模型。由于下载时没注意，加载了7b的嬛嬛模型，但是未将开发机升级成30%A100，所以出现报错，后续会向助教申请GPU额度，完成后续作业。部署使用，配置本地环境，且连接成功，但是个人感觉回答略呆滞，猪猪。书生·浦语大模型实战营第二期学习笔记（2）
书生浦语大模型实战营第三期 L2 LMDeploy量化部署实践学习笔记
yizhiboshanshan的博客
08-08 841
启动后就可以与InternLM2-Chat-1.8B大模型对话了，输入问题，然后需要按两下回车键（这里得注意，之前没注意还以为卡住了这么慢），速度确实比之前使用Transformer库来运行模型的速度快。Function call，即函数调用功能，它允许开发者在调用模型时，详细说明函数的作用，并使模型能够智能地根据用户的提问来输入参数并执行函数。InternVL2-26B需要约70+GB显存，但是为了能够在50%A100上运行，需要先进行量化操作，这也是量化本身的意义所在——即降低模型部署成本。
书生·浦语大模型实战营第二期学习笔记及作业（5）
qq_39310059的博客
04-16 377
量化部署和大圆模型实践，以及实际部署中面临的挑战，包括计算量、内存开销、仿存瓶颈和用户请求不确定性等问题。以命令行方式与 InternLM2-Chat-1.8B 模型对话。、三种减少模型参数的方法：非结构化、结构化和知识蒸馏。模型量化可以提高计算效率，并减少模型参数所需的内存空间。4、LMDeploy 量化部署 LLM-VLM 实践。可以通过减少模型参数来提高计算效率。、大模型部署的背景、部署方法、量化，以命令行方式与模型对话。以命令行方式与模型对话。，分别使用命令行客户端与。网页客户端与模型对话。
书生浦语大模型训练营第3期学习笔记
tt_1998的博客
05-19 892
默认的比例为0.8。下面通过几个例子，来看一下调整。GPU当然是越高越好哈，有些模型10%是跑不了的，创建的时长随便选，想运行几个小时就填写几个小时即可，每天都会给分配算力点，10%的GPU每小时需要消耗1个算力点，30%GPU每小时需要消耗3个算力点，需要注意：如果算力点每天没有用完，第二天则不会给分配。在这次的课程中会涉及到的大模型训练，我们可以选择直接在开发机中的VSCode上训练，也可以使用本地的VSCode链接远程开发机进行训练，下面介绍一下本地的VSCode如何连接远程开发机。
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1257
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
【 书生·浦语大模型实战营】作业（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 505
🎉知识星球是一个致力于提供《机器学习 | 深度学习 | CV | NLP | 大模型 | 多模态 | AIGC 》各个最新AI方向综述、论文等成体系的学习资料，配有全面而有深度的专栏内容，包括不限于 前沿论文解读、资料共享、行业最新动态以、实践教程、求职相关（简历撰写技巧、面经资料与心得）多方面综合学习平台，强烈推荐AI小白及AI爱好者学习，性价比非常高！➡️。
【第1节】书生·浦语大模型全链路开源开放体系
熊猫小妖的AI世界
04-17 1542
书生·浦语 InternLM介绍InternLM 是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM 基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合 RLHF 等技术，使得 InternLM 可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。
第二节课《轻松玩转书生·浦语大模型趣味Demo》学习笔记
weixin_59512778的博客
04-05 829
首先运行conda命令激活环境，然后使用git命令来获得仓库内的demo文件，在tutorial里面将八戒download以及八戒chat都已经放置完成，可以直接访问然后运行，就能达到相同的效果。接下来进入开发机，在terminal中输入环境配置命令“studio-conda -o internlm-base -t demo”，命令成功执行后的结果如下。在程序下载完成之后，我们要输入运行命令，将命令复制进Terminal然后回车，在程序运行的同时，对端口环境要配置本地PowerShell。
批量归一化 BN(Batch Normalization) (减少重复学习 - 加速损失收敛) + 代码实现 ——笔记2.15《动手学深度学习》
科研汪小陈的博客
11-08 1084
批量归一化固定小批量中的均值和方差，然后学习出适合的偏移和缩放； 可以加速收敛速度（比如以前学习率是0.01，现在用了批量归一化后，可以调到0.1） 不会出现之前：学习率太大的话，上面 (靠近损失的梯度) 会炸掉； 不会出现之前：学习率太小的话，下面 (靠近数据的模型参数) 会学不动； 每一个层的输出都通过均值方差放在一起了，上下层的分布都差不多是正态分布； 但一般不改变模型精度
Greiner 经典力学（多体系统和哈密顿力学）第十二章 学习笔记（Rotation About a Point）
Ivan 的专栏
11-09 1054
上一章是绕定轴转动，这章是绕定点转动。这一章明显上难度了。
蓝队技术学习
最新发布
weixin_65861348的博客
11-12 627
该手册详细规定了在不同安全事件发生时应执行的标准操作程序，按安全事件类别进行了分类阐述。
Window.history API学习笔记
常备不懈
11-12 233
在现代前端开发中，单页应用（SPA）的流行让我们对于页面的浏览历史管理需求愈加明显。`window.history` API作为浏览器提供的原生API，能够帮助开发者更加细致地控制用户的导航体验。本文将介绍`window.history` API的几个常见方法，并探讨它们的使用场景。
青少年学习倦怠测评
一火的专栏
11-09 231
未来，可以进一步拓展研究样本和范围，深入探讨学习倦怠的影响因素和干预措施，为青少年的教育发展贡献更多的力量。通过编制问卷，收集学生在学习过程中的情感体验、学习态度、学业成绩等方面的信息，进而评估学生的学习倦怠情况。为了全面评估青少年的学习倦怠情况，本研究基于文献综述和实证调查，编制了一份包含情感耗竭、学业疏离和低成就感三个维度的青少年学习倦怠测评问卷。随着教育竞争的日益激烈，青少年面临着巨大的学习压力。学校和教师应该注重培养学生的学习兴趣和爱好，鼓励学生参加课外活动和兴趣小组，拓宽学生的知识面和视野。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值