书生浦语实战营第二期-第二节作业

最新推荐文章于 2024-07-17 10:39:31 发布
最新推荐文章于 2024-07-17 10:39:31 发布
阅读量149 收藏
点赞数 1
分类专栏： InternLMInAction 文章标签： llama 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bpqqop/article/details/139216299
版权

部署InternLM2-Chat-1.8B

视频课程

课程文档

完成课程其实很简单，只需要按照文档一步步的执行就可以了，最后效果如下图：

书生浦语Web

回答问题还可以，做题还是有点不太给力

下载huggingface文件

因为显卡的限制，进阶作业也只是体验了一个下载huggingface文件，这也是基本功吧

对有python基础的人来说，其实很简单，只是API的调用而已。

bpqqop
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生浦语大模型实战课（第二期） 第二课作业
04-04
书生浦语大模型实战课（第二期） 第二课作业
书生浦语实战训练营第二期-第三节作业
05-29 455
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合外部知识库来生成更准确、更丰富的回答。解决LLMs在处理知识密集型任务时可能遇到的挑战，如幻觉、知识过时和缺乏透明、可追朔的推理过程等。提供更准确的回答、降低推理成本，实现外部记忆。
书生浦语大模型实战营----第一节作业
jz13180368180的博客
04-18 216
2、compasskit--大模型评测全栈工具链：数据污染检测、长文本能力评测、更丰富的模型推理接入、双语主观评测。2、智能体工具箱--AgentLego：前沿算算法、支持主流智能体系统、灵活接口调用、易部署。1、compassRank--中立全面的性能榜单：大语言模型+多模态模型评测。1、智能体框架--Lagent：支持多类型智能体能力、支持多种大模型、易拓展。1、部署框架LMDeploy：全流程解决方案、高效推理引擎、工具链易用。1、增量续训：无需制作数据，只需添加文章、代码等内容。
书生·浦语大模型实战营笔记-第二节 轻松玩转书生·浦语大模型趣味 Demo
qq_46212981的博客
01-06 1134
例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考实现了三个demo，分别是对话模型，latant模型，以及多模态创作模型，并学习了huggingface的使用方法。
书生·浦语大模型实战营第二节课作业
stone_tigerLI的博客
02-21 478
下载过程。
书生浦语实战营-第二节课笔记
weixin_43050562的博客
05-27 781
在第一节课后，我们了解了大模型的基本概念，和书生浦语LLM开源体系的相关知识，在实战营接下来的学习中，我们将动手一步步动手实战部署/微调大模型。第二节课的内容如下所示课程内容内容实战部署IntenLM2-Chat-1.8B创建Intern Studio开发机，通过Modelscope下载InternLM2-Chat-1.8B模型，完成Client Demo的部署和交互实战部署 八戒-Chat-1.8B。
书生·浦语第二期实战营(初夏专场)-作业2
pa_n_da的博客
06-10 916
书生·浦语第二期实战营(初夏专场)
书生·浦语大模型实战营第二期学习笔记及作业（7）
qq_39310059的博客
04-26 1308
视频链接：OpenCompass 大模型评测实战_哔哩哔哩_bilibiligithub教程链接：https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md1、大模型评测的重要性以及评测所面临的挑战，并详细讲解了司南评测体系2.0的实现方法和特点。首先，研究评测对于我们全面了解大型语言模型的优势和限制至关重要。尽管许多研究表明大型语言模型在多个通用任务上已经达到或超越了人类水平，但仍然存在质疑，即这些模型的能力是否只是对训练数据
书生浦语实战营第二期之大模型趣味Demo
T_susan的博客
04-28 732
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。自由指令输入的图文写作能力： 浦语·灵笔2 可以理解自由形式的图文指令输入，包括大纲、文章细节要求、参考图片等，为用户打造图文并貌的专属文章。生成的文章文采斐然，图文相得益彰，提供沉浸式的阅读体验。准确的图文问题解答能力：浦语·灵笔2 具有海量图文知识，可以准确的回复各种图文问答难题，在识别、感知、细节描述、视觉推理等能力上表现惊人。
书生·浦语实战营第二期作业4
m0_74453171的博客
05-10 1539
选择了一个最匹配的配置文件并准备好其他内容后，需要根据自己的内容对该配置文件进行调整，使其能够满足实际训练的要求。通过视频课程的学习可以了解到，对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（adapter），那么训练完的这个层最终还是要与原模型进行组合才能被正常的使用。由于训练得到的模型文件不是hf格式的，所以需要将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 Huggingface 格式文件。"content": "请做一下自我介绍"
书生浦语大模型实战课 第二课作业（更新）
04-04
书生浦语大模型实战课 第二课作业（更新）
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
Llama - Prompting
编码时光
07-16 499
制作有效的提示 明确说明 风格化 格式化 限制 提示使用 Zero- and Few-Shot 学习 Zero-Shot Prompting Few-Shot Prompting 基于角色的提示 思维链技术 Self-Consistency 检索-增强生成 程序辅助语言模型 限制无关token 减少幻觉
Llama - 微调
编码时光
07-16 1006
微调 实验跟踪 Recipes PEFT LoRA torchtune Hugging Face PEFT LoRA QLoRA微调
LLaMA-Factory
最新发布
编码时光
07-17 804
一、关于 LLaMA-Factory 项目特色 性能指标 二、如何使用 1、安装 LLaMA Factory 2、数据准备 3、快速开始 4、LLaMA Board 可视化微调 5、构建 Docker CUDA 用户： 昇腾 NPU 用户： 不使用 Docker Compose 构建 CUDA 用户： 昇腾 NPU 用户： 数据卷详情 6、利用 vLLM 部署 OpenAI API 7、从魔搭社区下载 8、使用 W&B 面板 三、支持 1、模型 2、训练方法 3、数据集 预训练数据集 指令微调数据集 偏好
Llama - 量化
编码时光
07-16 428
PyTorch中支持的量化模式 使用 TorchAO 进行 Pytorch量化 HF支持的量化 Quanto AQLM AWQ AutoGPTQ BitsAndBytes
Llama - Validation
编码时光
07-16 302
量化技术 Holdout 标准评估工具 Interpreting Loss and Perplexity 定性技术 手动测试
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值