【第三期实战营闯关作业三】

最新推荐文章于 2024-10-11 17:04:33 发布
最新推荐文章于 2024-10-11 17:04:33 发布
阅读量235 收藏
点赞数 8
文章标签： 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46643868/article/details/140892335
版权

这几天学习了《浦语提示词工程实践》课，受益颇丰。衷心感谢书生浦语团队老师们精心设计的优质课程！以下是此课实操的截图：
在这里插入图片描述
创建langgpt环境
在这里插入图片描述
安装pytorch
在这里插入图片描述
安装相关配置
在这里插入图片描述
web_ui。经langgpt优化后的回答
恳请大佬们指正。

weixin_46643868
关注
第三期实战营闯关作业七
weixin_46643868的博客
08-04 444
晚上学习了《OpenCompass 评测 InternLM-1.8B 实践》这一课，进一步体会到司南平测系统的威力。创建opencompass环境。以上是评测过程，请佬指正。
#第三期实战营闯关作业四
weixin_46643868的博客
08-03 267
今天学习了第四课《InternLM + LlamaIndex RAG 实践》，有了全新的收获，这是对我们初学者非常友好的一课。课程环环紧扣，逻辑性特强。InternLM + LlamaIndex RAG的结果。创建llamaindex的conda环境。这是此课实操的主要截图，恳请大佬们指正。安装python 依赖包。
【第三期实战营闯关作业】
weixin_46643868的博客
07-10 356
今天学习了 如何使用InternStudio开发机，以及掌握一些基础的Linux知识，重点是SSH连接与端口映射并运行hello_world.py，受益很深。hello_world.py文件运行成功。conda激活成功，创建demo。web UI的界面打开。
【第三期实战营闯关作业六】
weixin_46643868的博客
08-03 132
下午学习了《XTuner 微调个人小助手认知》这课，收获很大，初步认识了xTUner微调大模型的流程.。模型被转换为 HuggingFace 的HF格式。
【第三期实战营闯关作业##LMDeploy 量化部署进阶实践】
weixin_46643868的博客
08-31 385
2、kv cache 占用 16.4GB是这样得到的：（剩余显存）24-3.5 = 20.5GB，kv cache默认占用 80%，即 ：20.5*0.8 = 16.4GB。2、kv cache占用8GB：剩余显存24-14=10GB，kv cache默认占用80%，即10*0.8=8GB。因此 20.9GB=（权重占用）3.5GB+（kv cache占用）16.4GB +（其它项）1GB。因此23GB=（权重占用）14GB +（kv cache占用）8GB + （其它项）1GB。
【#第三期实战营闯关作业##LMDeploy 量化部署进阶实践 】
weixin_46643868的博客
08-30 412
以Gradio网页形式连接API服务器,输入http://127.0.0.1:6006，然后就可以与模型尽情对话了，就是上面截图。今天学习了《LMDeploy 量化部署进阶实践》一课，，收获很大。运行InternLM2.5 -20B模型，会发现此时显存占用大约71G：单卡80G-2。创建好的conda环境并启动InternLM2_5-7b-chat。0.8=32G,so,（权重）2*20G+32G(cache占用）=72G.创建成功后激活环境并安装0.5.3版本的lmdeploy及相关包。
【#第三期实战营闯关作业 ## MindSearch在 Hugging FaceSpace的部署】
weixin_46643868的博客
09-01 888
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>6 将 /root/mindsearch/mindsearch_deploy 目录下的文件用 git提交到 HuggingFace Space 即可完成部署了。git clone https://huggingface.co/spaces/<你的名字>/<仓库名称>这是部署huggingface space上的截图。
【#第三期实战营闯关作业 ## MindSearch CPU-only 版部署】
weixin_46643868的博客
08-31 284
登录github网站，打开codespace主页，选择blank template，浏览器自动在新的页面打开一个web版的vscode。这是进阶闯关的最后一课，把MindSearch 部署到Github Codespace 和 Hugging Face Space，这是一种新的痛并快乐的体验，亦因i踩了不少坑。由于硅基流动 API 的相关配置已经集成在了 MindSearch 中，所以我们可以直接执行下面的代码来启动 MindSearch 的后端。install其它依赖包。这是github的部署。
【#第三期实战营闯关作业##InternVL 多模态模型部署微调实践 】
weixin_46643868的博客
09-04 892
这几天学习了《InternVL 多模态模型部署微调实践 》一课，进一步体会到了xtuner微调大模型的巨大威力，以及微调在大模型部署到应用中的关键作用。以下是记录复现过程及截图：首先，根据老师的讲解，解释一下internVL InternVL 是一种用于多模态任务的深度学习模型，旨在处理和理解多种类型的数据输入，如图像和文本。它结合了视觉和语言模型，能够执行复杂的跨模态任务，比如图文匹配、图像描述生成等。通过整合视觉特征和语言信息，InternVL 可以在多模态领域取得更好的表现。
2014高考数学考前练习大闯关3.rar
11-05
描述中的信息“2014高考数学考前练习大闯关3.rar”与标题相同，进一步确认这是一套针对2014年高考数学的备考练习系列的第三部分。这通常意味着该资源包含一系列逐步增加难度的题目，旨在帮助考生在考试前熟悉题型、...
Android实战项目论文 - 趣味数学
热门推荐
空名先生
10-08 2万+
专注于Android/Unity和各种游戏开发技巧，以及各种资源分享（网站、工具、素材、源码、游戏等）
SQLServer数据库管理与应用实战
"小新试闯第三关-SQL server PPT" 这篇PPT内容主要围绕SQL Server数据库管理系统展开，介绍了数据库的基本概念、SQL Server 2005的安装与管理，以及一系列数据库管理相关的主题。小新在尝试访问BooksManage数据库中...
HTML / CSS 实践练习
MartinYP的博客
07-13 640
HTML / CSS 实践练习记录博客
MySQL数据库的详细学习步骤
最新发布
2401_87352036的博客
10-11 745
MySQL数据库的详细学习步骤可以归纳为以下几个阶段，每个阶段都包含了特定的学习内容和目标。
关于通信方式的一些自我学习（uart、i2c、spi的一些最底层的逻辑以及运用方式）STM32F407上的一些实际日常应用
weixin_60991529的博客
10-08 1189
首先其工作原理是将数据以串行方式进行发的，接收的时候将数据转换为并行数据。利用异步通信所以不需要时钟线适用于不同芯片、芯片对模块之间的控制。因此需要设置好波特率（115200、9500）数据位、停止位、奇偶效验位。
CUDA Graphs学习与实验
Hi20240217的博客
10-11 1019
CUDA图（CUDA Graphs）为CUDA引入了一种全新的工作提交模型。它允许将一系列操作（如内核启动）以图的形式表示，并通过依赖关系将这些操作连接起来。这种图的定义过程与其执行过程是分开的，这意味着我们可以提前定义好一个图，然后多次重复执行它
10.8学习
2401_87363162的博客
10-08 898
每一个server都有一个定时器，超时时间为election timeout（一般为150-300ms），如果某server没有超时的情况下收到来自领导者或者候选者的任何消息，定时器重启，如果超时，它就开始一次选举。A：假设存在这样一种极端情况，有两个Proposer依次提出了一系列编号递增的提案，导致最终陷入死循环，没有value被选定。●Acceptor：决策者，Accept以后会拒绝小于N的提案，并把自己的[N,V]返回给Proposer。2PC协议：两阶段提交协议，P是指准备阶段，C是指提交阶段。
【Java】异常的处理-方式【主线学习笔记】
CBCY_csdn的博客
10-07 869
Java是一门功能强大且广泛应用的编程语言，具有跨平台性和高效的执行速度，广受开发者喜爱。在接下来的学习过程中，我将记录学习过程中的基础语法、框架和实践技巧等，分享学习心得，对自己学习过程进行整理和总结，也希望能为其他学习Java的朋友提供一些帮助和参考。在编写程序时，可能会遇到各种错误或异常情况。例如，在执行除法运算时，分母为零会导致程序崩溃；访问数组时超出边界会引发。为了避免这些问题，程序员需要在可能出现错误的地方加上检查代码，这往往会导致代码冗长且可读性差。
Node.js开发企业微信第三方应用实战指南
在深入探讨Node.js开发企业微信第三方应用之前，首先理解企业微信第三方应用的概念至关重要。企业微信第三方应用允许开发者为不同企业提供定制化的服务，而不仅仅局限于私有部署客户。开发者需要注册成为企业微信的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值