书生浦语大模型实战营第三期—Linux基础入门岛打卡
关卡任务:完成SSH连接与端口映射并运行hello_world.py
1.SSH连接
1.1创建开发机
该训练营免费并在做完成任务后领取免费算力,很香!
首先,创建个人开发机:
很便捷的操作,有详细的文档教学,来完配置,审核大大,图片无法上传!
1.2远程连接
Powershell中进行远程连接,,输入ssh命令,可直接粘贴复制,大致步骤和autoDL类似。
发现系统是ubuntu 20.04的长期支持版本,nvidia-smi查看其GPU:
1.3 vscode连接
没有配置RSA密钥,由于使用vscode方便后续开发,于是进行了vscode远程连接,关于vscode远程连接服务器的教程也很详细,结果如图:
这里,我链接好后进入到了root目录。
2.端口映射
2.1什么是端口映射
端口映射是一种网络技术,它可以将外网中的任意端口映射到内网中的相应端口,实现内网与外网之间的通信。通过端口映射,可以在外网访问内网中的服务或应用,实现跨越网络的便捷通信。
那么我们使用开发机为什么要进行端口映射呢?
因为在后续的课程中我们会进行模型web_demo的部署实践,那在这个过程中,很有可能遇到web ui加载不全的问题。这是因为开发机Web IDE中运行web_demo时,直接访问开发机内 http/https 服务可能会遇到代理问题,外网链接的ui资源没有被加载完全。
所以为了解决这个问题,我们需要对运行web_demo的连接进行端口映射,将外网链接映射到我们本地主机,我们使用本地连接访问,解决这个代理问题。
2.2操作
web IDE中执行 pip install gradio==4.29.0下载相关包,然后运行示例hello_world.py程序,端口映射前:
端口映射后:
具体教程见:
书生大模型实战手册