![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
书生大模型实战营地第三期
文章平均质量分 88
书生大模型实战营地第三期的学习与探索
Syntax_CD
这个作者很懒,什么都没留下…
展开
-
【书生大模型实战营(暑假场)】基础任务四 InternLM+LlamaIndex RAG 实践
LlamaIndex是一个开源的索引|和搜索库,提供高效、可扩展的文本索引|和检索功能。他是一个开源的为LLM设计的索引和搜索库,并非专门为RAG设计,但可以帮助构建有效的数据库,从而更好地构建 LLM应用。原创 2024-08-15 03:43:56 · 781 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】入门任务二 Git 关卡
本任务将基于开发机实现,重点在于熟悉Git操作。首先要了解 Git操作的常见四部曲,即:舔 Add,提 Commit,拉 Pull,推 Push,关于这些指令的作用,可以参考本关卡的教程部分,具有非常精炼的介绍。添(Add)命令:git add 或 git add .作用:将修改过的文件添加到本地暂存区(StagingArea)。这一步是准备阶段,你可以选择性地添加文件,决定哪些修改应该被包括在即将进行的提交中。提(Commit)命令:git commit -m ‘描述信息’原创 2024-08-14 23:29:03 · 1043 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】基础任务三 浦语提示词工程实践
提示工程也可帮助我们构建数据飞轮,即 “好产品 —> 更多的用户和数据 —> 更好的模型质量 ——> 好产品” 的良性迭代。由于服务需要持续运行,需要将进程维持在后台,所以这里使用我们上一节安装的 tmux软件创建新的命令窗口。此时,服务启动完成,我们可以按 Ctrl+B 进入tmux的控制模式,然后按D退出窗口连接,更多操作。:近期相关研究发现,LLM在对比浮点数字时表现不佳,经验证,internlm2-chat-1.8b。注意,当我们想再次进入运行模型服务的端口时,再次输入以下指令即可。原创 2024-08-13 00:55:09 · 719 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】基础任务一 书生大模型全链路开源体系
层面,书生开源了总共 30+模态,7700+数据集,180TB 的数据,涉及图像,视频,token语料,音频,3D模型等,并且提供了配套的检索,下载,标注,采集工具。方面,LMDeploy提供了推理接口,量化,引擎,服务等多种功能,可以实现高效推理,可靠量化,卓越的兼容性,便携的服务,有状态推理等功能,同时支持多种 LLM和 VLM;可以对问题进行分解和规划,模拟人脑的思维路径,去实现搜索,生成,整合,反馈,是一种非常有趣的设计;可以感受到书生浦语一路走来,发展,成长的不易,祝书生浦语越来越好!原创 2024-08-11 00:59:51 · 819 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】入门任务三 Python 关卡
简单来说,“debug”就是能再程序中设置中断点并支持一行一行地运行代码,观测程序中变量的变化,然后找出并修正代码中的错误。其中,最常用的就是按钮 1,即是一种单步调试方法,每次点击debug面板的按钮 1,代码将运行到下一个断点,但并不执行该断点的这行代码。进入 debug 模式后,我们可以看到变量区,这是我们 debug 的依据。在关键拓展安装完成后,我们发现,开发机侧的 python文件行号左侧已经可以打断点,即出现了“红点”,而这个“红点”在不安装 python拓展时是没有的!原创 2024-08-04 19:55:57 · 934 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】基础任务二 8G 显存玩转书生大模型 Demo
本任务将基于开发机实现,重点在于熟悉Git操作。首先要了解 Git操作的常见四部曲,即:舔 Add,提 Commit,拉 Pull,推 Push,关于这些指令的作用,可以参考本关卡的教程部分,具有非常精炼的介绍。添(Addgit add 或git add .作用:将修改过的文件添加到本地暂存区(Staging Area)。这一步是准备阶段,你可以选择性地添加文件,决定哪些修改应该被包括在即将进行的提交中。提(Commit)git commit -m '描述信息'原创 2024-08-04 17:51:03 · 744 阅读 · 0 评论 -
【书生大模型实战营(暑假场)】入门任务一 Linux+InternStudio 关卡
应根据实际开发机的端口号进行配置,正确配置后,可以在本机访问开发机运行的应用。这样做的意义是,有时开发机不具备完整依赖去支持特定应用的运行,比如 Web-UI,通过端口映射可以借助本机的 Web-UI 去显示开发机的 Web 应用。端口映射可以将外网端口映射到内网端口,实现内外网通信,从而可以从外网访问内网服务和应用。在本机的终端中输入以下指令进行端口映射。原创 2024-07-29 12:13:50 · 323 阅读 · 0 评论