InternLM实战:Linux+InternStudio 关卡
前言
本系列文章为InternLM实战营笔记,主要阐述通过SSH登陆并在InternStudio跑程序。
操作步骤
第一步:创建实例
创建InternStudio ID并登陆,打开开发机,如图所示:
点击创建开发机,并选择
10% A100*1
(示例)作为资源配置与Cuda12.2-conda
镜像,设置开发机名称为test
(示例),选择后如图:
点击立即创建后如图:
当等待状态从排队中
变为
运行中
,且 操作栏
各项亦激活:
点击SSH连接:
弹出登陆命令与密码。
第二步:SSH登陆
复制上一步出现的登陆命令,打开Visual Studio Code
,搜索 Remote - SSH
插件并装上:
选中左侧栏
Remote Explorer
图标,打开远程连接管理器:
点击SSH
齿轮右侧的加号:
将复制到的SSH登陆命令粘贴上去并回车:
继续回车,右下角提示框点击Connect
:
之后弹出密码弹窗:
然后将上一步获得到的登陆密码粘贴上去并回车,等待片刻后登陆成功:
第三步:配置SSH密钥
打开本机终端输入
ssh-keygen -t ed25519 # rsa 亦可
ls ~/.ssh # 查看产生的公钥
cat ~/.ssh/id_ed25519.pub
由于本人此前已生成key,故直接展示。
点击
添加公钥
:
将公钥复制粘贴进去并点击立即添加:
之后即可免密登陆。
第四步:端口映射
点击远程连接管理器中的齿轮,回车打开:
加上以下一行:
LocalForward 7860 127.0.0.1:7860
第五步:WEB服务搭建
使用套接字撰写Python WEB服务:
import socket
import re
import gradio as gr
# 获取主机名
def get_hostname():
hostname = socket.gethostname()
match = re.search(r'-(\d+)$', hostname)
name = match.group(1)
return name
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
html_code = f"""
<p align="center">
<a href="https://intern-ai.org.cn/home">
<img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
<h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
<h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
<p align="center">
<a href="https://github.com/InternLM/Tutorial/blob/camp3">
<img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
"""
gr.Markdown(html_code)
demo.launch()
保存为hello_world.py
。
随后安装依赖:
pip install gradio==4.29.0
运行:
python hello_world.py