轻松玩转书生·浦语大模型趣味 Demo-笔记2

本文介绍了如何在GitHub上体验部署InternLM2-Chat-7B模型,包括DEMO任务的Jupyter演示,八戒的对话功能,以及使用Lagent运行模型的过程。虽然部署相对简单,但作者对模型的代码和原理了解有限。
摘要由CSDN通过智能技术生成

课程链接
项目地址:鼓励大家在Github上star。


任务描述

在这里插入图片描述
能看出部署的模型参数量不是特别大,对于个人用户也比较友好。感觉本节课程主要在于体验。进阶版包括了多模态内容的体验。
智能体应该是未来大模型一个热门方向了,有望落地。


社区兴趣小组

在这里插入图片描述
一期优秀作品:
在这里插入图片描述
都是基于角色扮演的优秀项目。

二、DEMO任务

Demo对应的代码部分在:Tutorial
主要包括以下四个任务:
具体任务
InternStudio创建开发机
在这里插入图片描述
之后进入排队,等轮到自己,进入开发机。
在这里插入图片描述
Demo任务选择Jupyter(之前我都是用VS Code,不过demo缺失jupyter交互性好一些),之后在终端按照Github上的指令进行环境创建:
在这里插入图片描述
按照github上的指令执行,成功使用demo:
在这里插入图片描述

三、八戒

在这里插入图片描述
按照Github指示进行,需要等待一会儿能打开以下界面:
在这里插入图片描述
可以进行对话。

四、使用 Lagent 运行 InternLM2-Chat-7B 模型

需要开启30%A100进行。
大概方法和三一样,参考Github的详细教程一步步进行。出现以下界面:
在这里插入图片描述
在这里插入图片描述
可能是由于解是分数,计算花了一些时间。
最后一个实战任务目前没有权限,就没办法尝试。
现在对于部署感觉还是挺简单,但是其中的代码或者原理是几乎不了解的。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值