关卡1-1：Linux + InternStudio

本文主要介绍：

• 什么是internStudio；
• internStudio的大致功能
• 如何连接并进入到internStudio环境；
• 如何访问studio中启动的web服务；

一、什么是InternStudio

InternStudio 是大模型时代下的云端算力平台。基于 InternLM 组织下的诸多算法库支持，为开发者提供开箱即用的大语言模型微调环境、工具、数据集，并完美兼容 🤗 HugginFace 开源生态。

二、使用InternStudio

2.1 进入internstudio

点击如下可以进入studio（注：需要预先注册账户并登录）。

https://studio.intern-ai.org.cn/console/instance

2.2 创建开发机

若没有开发机，或者需要新建开发机，那么点击“创建开发机”

在新建页面，输入开发机的名称，并选择可用的镜像，注意需要在可用份额内选择和设置配置。

2.3 方式1：ssh进入开发机

启动开发机后，操作栏的"SSH连接”可用，点击后，弹出SSH连接的命令。

点击如下的复制，

在本地机器打开命令行，将复制的命令粘贴进去，在提示密码输入的时候，粘贴以上弹窗的密码，若输入正确，那么就会顺利登录到studio开发机了，登录成功的结果类似如下：

2.4 方式2：直接进入WEB的开发机环境

进入后，在logo后有3个标签，分别是jupyter、terminal、vscode，
1. JupyterLab：一个交互式的编程和教学环境，同时内置终端，可以很方便地查看文件，执行代码等
2. 终端（Terminal， 最轻量级）：主要进行命令行操作，或者运行脚本和简单程序
3.VSCode：网页中集成的VSCode，也可以在本地VSCode中通过SSH连接远程开发。

三、通过端口映射访问studio中的应用

在studio启动应用服务，因为绑定的是127.0.0.1的IP，外部是无法直接访问的，通过以下端口映射的案例，可以在外部访问studio的应用。

3.1 环境准备

先创建一个conda虚拟环境，并启动一个服务。

#创建conda虚拟环境
conda env -n c3_ka1 python=3.10 -y

#安装gradio
conda activate c3_ka1
pip install gradio

mkdir -p proj/c3_k1;cd proj/c3_k1

vi hello_world.py 将如下代码贴入.

import socket
import re
import gradio as gr
 
# 获取主机名
def get_hostname():
    hostname = socket.gethostname()
    match = re.search(r'-(\d+)$', hostname)
    name = match.group(1)
    
    return name
 
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
    html_code = f"""
            <p align="center">
            <a href="https://intern-ai.org.cn/home">
                <img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
            </a>
            </p>
            <h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
            <h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
            <p align="center">
                <a href="https://github.com/InternLM/Tutorial/blob/camp3">
                    <img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;">
                </a>
            </p>

            """
    gr.Markdown(html_code)

demo.launch()

python hello_world.py

启动了服务，运行在7860端口。

3.2 什么是端口映射

端口映射是一种网络技术，它可以将外网中的任意端口映射到内网中的相应端口，实现内网与外网之间的通信。通过端口映射，可以在外网访问内网中的服务或应用，实现跨越网络的便捷通信。
那么我们使用开发机为什么要进行端口映射呢？
因为在后续的课程中我们会进行模型web_demo的部署实践，那在这个过程中，很有可能遇到web ui加载不全的问题。这是因为开发机Web IDE中运行web_demo时，直接访问开发机内 http/https 服务可能会遇到代理问题，外网链接的ui资源没有被加载完全。
所以为了解决这个问题，我们需要对运行web_demo的连接进行端口映射，将外网链接映射到我们本地主机，我们使用本地连接访问，解决这个代理问题。

3.3 建立端口映射通道并访问服务

在开发机的工具栏上点击“自定义服务”

复制对应命令，

在本地打开cmd窗口，将以上粘贴进来，相应的密码是操作栏上“ssh连接”中的密码，正常连接则如下所示：
相应参数说明如下：

接着就可以在本地打开浏览器，访问127.0.0.1:7860了