文章目录
前言
随着人工智能的不断发展,大模型也越来越重要,很多人都在学习大模型。上海人工智能实验室开展了第四期书生大模型实战营。这次实战营有入门岛、基础岛和进阶岛三个大关卡。本文是入门岛中的第一个任务,目的是熟悉Intern开发机的使用(包括SSH连接、端口映射、VSCode连接)以及基础的linux知识。
一、完成SSH连接与端口映射并运行hello_world.py
1.SSH连接
1.1创建开发机
创建个人开发机,选择10%A100型号的机器。选择默认的Cuda12.2的conda环境。
点击进入开发机,该操作会在浏览器新的标签页打开如下图所示的界面。我们可以在该界面使用Jupyter Terminal和VSCode等工具。
1.2实现SSH连接
点击SSH连接,我们可以看到进行远程连接的指令和密码。
这里的47149是开发机所使用的SSH端口,一般使用的都是22端口,没有这个端口号的话是连不上SSH的,并且每个人的端口都不一样。
使用win+R启动PowerShell。分别复制登录命令和密码到本地PowerShell。复制完登陆命令后点击回车。
ssh -p 47149 root@ssh.intern-ai.org.cn -o StrictHostKeyChecking=no -o UserKnownHostsFile=/dev/null
注意:PowerShell使用鼠标右键进行粘贴。
之后输入密码。密码不会显示。输入完密码后再回车,出现如下界面表示SSH远程连接成功。
1.3配置SSH Key实现免密连接
每次远程都输入密码比较麻烦,我们可以设置SSH key来跳过输入密码这一步骤。我们可以使用ssh-keygen命令来生成密钥。
ssh-keygen -t rsa
一路回车完成配置。默认存储位置是C:/Users/{your_username}/
在PowerShell中可以使用Get-Content
命令查看生成的密钥
Get-Content C:/Users/{your_username}/.ssh/id_rsa.pub
我们把上图rsa生成的密钥复制下来。然后,我们回到开发机平台,在首页点击配置SSH Key,接着点击添加SSH公钥。
将之前生成的密钥复制下来,粘贴到公钥框中,名称会被自动识别到,最后点击立即添加,SSH Key就配置完成了。
配置完SSH Key之后,我们重新进行SSH连接。
可以看到,这一次我们只需要输入SSH登录命令而不需要输入密码就可以实现远程连接开发机了。
2.端口映射并运行hello_world.py
2.1端口映射
使用以下命令进行端口映射。
ssh -p 47149 root@ssh.intern-ai.org.cn -CNg -L {本地机器_PORT}:127.0.0.1:{开发机_PORT} -o StrictHostKeyChecking=no
上图就代表成功实现端口映射了。这个命令不返回任何的内容。当运行一个web demo的时候,我们就可以使用这个命令进行端口映射。
2.2运行hello_world.py
我们打开开发机的Web IDE。在/root/demo路径下新建一个hello_world.py python程序。将如下代码粘贴到该python程序中:
import socket
import re
import gradio as gr
# 获取主机名
def get_hostname():
hostname = socket.gethostname()
match = re.search(r'-(\d+)$', hostname)
name = match.group(1)
return name
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
html_code = f"""
<p align="center">
<a href="https://intern-ai.org.cn/home">
<img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
<h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
<h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
<p align="center">
<a href="https://github.com/InternLM/Tutorial/blob/camp3">
<img src="https://oss.lingkongstudy.com.cn/blog/202410081252022.png" alt="Logo" width="50%" style="border-radius: 5px;">
</a>
</p>
"""
gr.Markdown(html_code)
demo.launch()
新打开一个终端,切换到指定目录,运行python hello_world.py
命令。
需要提前使用pip install gradio==4.29.0
命令安装依赖包。
如上图我们获得一个url。由于我们已经进行了本地7860端口与开发机7860端口之间的映射,所以我们在本地浏览器也能打开这个url。
最终结果如下图所示。
二、将Linux基础命令在开发机上完成一遍
本部分只选取部分Linux命令做测试。
touch
ls
mkdir
cd
pwd
等命令
vim
cat
等命令
cp
mv
rm
等操作
三、使用 VSCODE 远程连接开发机并创建一个conda环境
1.VSCode远程连接
在VSCode中安装扩展。搜索SSH,选择第一个扩展进行安装。
安装完成插件以后,点击侧边栏的远程连接图标,在SSH中点击“+”按钮,添加开发机SSH连接的登录命令。
我们将登录命令复制下来,然后将命令粘贴到弹出的窗口中,最后回车:
选择默认的配置
然后在右下角弹出来的提示窗口中点击“连接”就可以远程到开发机中了。
可以看到,我们已经成功使用 VSCode连接到远程开发机。同样也可以使用vscode进行端口映射
2.VSCode创建conda环境
当我们要使用conda安装包的时候会非常慢,我们可以设置国内镜像提升安装速度,示例如下:
#设置清华镜像
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/pro
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
使用如下命令可以安装一个环境名为test的python版本为3.10的新conda环境:
conda create -n test python=3.10
使用conda env list
这一命令查看已经存在的conda环境。想要激活新建的名为test的conda环境,我们可以使用conda activate test
这一命令。使用conda deactivate
命令退出当前conda环境。
总结
以上就是InternLM Camp4 L0G100的全部内容。