基于InternStudio开发机完成SSH连接与端口映射
InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持,为开发者提供开箱即用的大语言模型微调环境、工具、数据集,并完美兼容 🤗 HugginFace 开源生态。
创建开发机
SSH连接及配置
-
使用密码进行SSH连接
首先,点击SSH连接,系统会展示SSH的登陆命令和密码。然后在本地终端工具中使用登陆命令以及密码连接InternStudio远程开发机。
-
配置SSH密钥,实现免密连接
若每次连接InternStudio远程开发机都使用使用密码连接是非常麻烦的,所以,接下来请按照以下步骤配置SSH密钥,实现免密连接。
-
首先使用
ssh-keygen
工具在本地机器上生成密钥文件
-
查看公钥并在InternStudio进行配置
- 完成创建以后,重启终端进行远程连接,就会跳过密码输入这一步了
-
端口映射配置
后续学习中需要在开发机上进行模型部署,想要在本地机器上访问开发机上启动的WEB服务,就必须要配置端口映射。以下是端口映射配置的过程。
首先,创建hello_world.py
,然后python hello_world.py
启动web服务,最后从本地机器访问http://127.0.0.1:7860
测试是否可以正常访问。
import socket
import re
import gradio as gr
# 获取主机名
def get_hostname():
hostname = socket.gethostname()
match = re.search(r'-(\d+)$', hostname)
name = match.group(1)
return name
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
html_code = f"""
<p align="center">
<a href="https://intern-ai.org.cn/home">
<img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
<h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
<h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
<p align="center">
<a href="https://github.com/InternLM/Tutorial/blob/camp3">
<img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
"""
gr.Markdown(html_code)
demo.launch()
当然,到这一步肯定无法通过http://localhost:7860
访问开发机中启动的web服务。还需要最后一步,点击自定义服务,复制ssh连接命令在本地终端执行后,重新在浏览器访问http://localhost:7860
即可。