跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频和文档。
1、两个框架
InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。
Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。
2、连接服务器
在本地使用ssh连接云端的GPU服务器。
普通连接
ssh -o StrictHostKeyChecking=no -p 33574 root@ssh.intern-ai.org.cn
连接服务器 并映射出端口到本地
ssh -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33574 -o StrictHostKeyChecking=no
3、用tmux执行命令
为了让窗口与进程解构,在tmux中执行linux命令。
1、bash
2、新建会话tmux new -s my_session。
3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。
4、按下快捷键Ctrl+b d将会话分离。
5、下次使用时,重新连接到会话tmux attach-session -t my_session。
4、更换pip、conda源
在MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。
5、实现效果