SSH 隧道，实现本地 Pycharm 调用远程云服务GPU训练大模型，开发者必学！

最新推荐文章于 2025-11-14 16:27:14 发布
原创 最新推荐文章于 2025-11-14 16:27:14 发布 · 586 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#ssh #pycharm #运维

程序员成长：技术、职场与思维模式实战指南 10w+人浏览 1.8k人参与

本文最后面的模型训练案例后面单独出一期分享哦～

1、背景与概念

🎯 概念：

SSH隧道可以将远程服务的端口代理到本地，或者代理本地端口到远程服务。

🎯 为什么要用 SSH 隧道？

我们平时训练、微调模型时，本地电脑的配置往往很难达到模型训练的要求，这个时候，我们往往会到云平台上进行模型训练，这就遇到两个问题，分别如下

⛳️ 本地访问远程云平台非公网可访问的端口

有的云平台不支持公网开放单独的 IP:port，比如我们想访问 AutoDL 上一个“非”6006或6008 端口时，是访问不了的，SSH 隧道可以帮我们解决本地无法访问云平台上的非公网暴漏端口应用的问题。

PS：AutoDL为每个实例的6006和6008端口都映射了一个可公网访问的地址，你在上面部署的其他端口应用无法直接通过公网访问。

⛳️ 本地 Pycarm 外挂远程云平台GPU

本地使用 Pycharm 进行开发、训练，但是每次调试需要先上传代码到平台远端才能调试，这样会带来极大的不便，SSH 隧道可以实现，本地 Pycharm 直接打通云平台

  • 你可以在本地 pycharm 中直接在云平台上运行命令，并在 pycharm 控制台中看到运行结果

  • 同时文件支持双向同步

相当于你 “本机外挂了一个远程 GPU 卡”，你就说香不香！

2、SSH 隧道实现方式

以 AutoDL 云平台为例，下面介绍两种方式，一种为终端命令的方式（适合Linux/Mac用户），另一种为图形工具的方式（仅能用于Windows）

  • AudoDL 原文
  • ps：autodl SSH指令在哪里获取？

比如我的ssh为：

ssh -p 35714 root@connect.cqa1.seetacloud.com

记住这个串，后面链接的时候要使用

2.1 图形工具

2.1.1 AutoDL Windows客户端（免安装）

https://autodl-public.ks3-cn-beijing.ksyuncs.com/tool/AutoDL-SSH-Tools.zip

2.1.2 SSH可视化工具

类似 XShell、FinallShell、Xterminal 这样的客户端工具，均支持 SSH 隧道链接

下面我以 Xterminal 为例演示

🎯 Xterminal 

  • 官网：https://www.xterminal.cn/
  • 邀请码（输入邀请码赠送优惠）：xyyds
  • （1）创建服务链接

  • （2）点击左上角SSH 隧道，然后点 +隧 道

这里有点坑，想看下图配置方式

  • 接下来，我们到 AutoDL 的 JupyterLab 中启动一个应用

# 如下命令可以快速启动一个，端口为 8899 的python应用，端口8899可以自定义
python -m http.server 8899

然后，你就在你本地浏览器通过访问 http://localhost:8899 访问你服务器上所映射的对应端口的应用了

2.2 SSH代理命令

2.2.1 代理实例中的端口到本地

具体步骤为：

  • Step.1 在实例中启动您的服务（比如您的服务监听6006端口，下面以6006端口为例）
  • Step.2 在本地电脑的终端(cmd / powershell / terminal等)中执行代理命令： 
    ssh -CNg -L 6006:127.0.0.1:6006 root@connect.cqa1.seetacloud.com -p 35714

            其中root@connect.cqa1.seetacloud.com和35714分别是实例中SSH指令的访问地址与端口，请找到自己实例的ssh指令做相应替换。6006:127.0.0.1:8899是指代理实例内8899端口到本地的6006端口。

    # 这是我在AutoDL上的示例信息
ssh -p 35714 root@connect.cqa1.seetacloud.com
# 对应的终端执行代码就是这个【代理示例内8899端口到本地6006端口】
ssh -CNg -L 6006:127.0.0.1:8899 root@connect.cqa1.seetacloud.com -p 35714
# 执行后提示输入密码，回车，然后终端就停在那里

    接下来本地浏览器访问： http:localhost:6006 即可请求到 8899 这个端口的应用了

    注意：执行完这条ssh命令，没有任何日志是正常的，只要没有要求重新输入密码或错误退出

    Windows下的cmd/powershell如果一直提示密码错误，是因为无法粘贴，手动输入即可（正常不会显示正在输入的密码)

    • Step.3 在本地浏览器中访问http://127.0.0.1:6006即可打开服务，注意这里的6006端口要和上述6006:127.0.0.1:8899中的端口保持一致

    2.2.2 代理本地端口到实例

    # 上面代理实例中的端口到本地的Step.2中的命令：
ssh -CNg -L 6006:127.0.0.1:6006 root@123.125.240.150 -p 42151
# 只需将上面的命令修改参数-L为-R即代理本地端口到实例
ssh -CNg -R 6006:127.0.0.1:6006 root@123.125.240.150 -p 42151

    3、本地 Pycharm 打通云平台示例

    3.1 配置 Interpreter On SSH

    • 创建一个新的 Interpreter选择 On SSH

    • 输入 ssh 连接信息

    • 输入密码

    • 点 next

    • 点 nex

    • 搞定

    3.2 排除同步路径

    默认情况下，工程下所有文件都会被同步到远端服务

    有一些 logs、model 等信息非常大，可以选排除，即不做同步，因为远端下载模型非常快，文件太大，本地同步也没啥用

    • 打开设置

    搞定了～

    3.3 同步本地与远端的数据与库的安装

    这回，你可以在本地尽情使用 Pycharm 调试你的项目了，而运行是在远端 AutoDL 的 GPU 实例上了。

    简直不要太爽！

     如上图，发现 src 没有同步过去，你也可以手动同步

    • 妥，来了

    • 又出问题了，没有安装一些库

    • 那就安装一下，在你本地终端执行也可以，到远程 jupyter 上也行，因为本地已经开启了 SSH 隧道了

    你离胜利的彼岸越来越近了，还剩最后一个问题

    3.4 镜像的设置，并开始用本地pycharm调用远端 GPU 调试

    • 运行 train.py 训练模型你会发现，下载 huggingface 模型链接超时了

    • 原因：我们代码中，使用了 huggingface transformers 库，下载模型连不上网络

    tokenizer = AutoTokenizer.from_pretrained('OpenMOSS-Team/bart-base-chinese')
    • 解决办法一：在代码中设置国内镜像

    • 解决办法二，在 pycharm 上设置

    3.5 模型训练效果演示

    预告：本预训练模型的训练实操后面单独出一期分享哦～

    • 看看本地 pycharm 通过 SSH 隧道调用远端云服务 GPU 训练时控制台的输出
      • 真心的，我本机 macos m1 芯片，跑起来电脑卡的都不动，换成这个卡，本地调试太爽了！

    • 看看远程服务器显卡使用情况

    • 打开 TensorBoard 看看损失收敛情况
      • 注意：AutoDL 上日志写入路径必须是：/root/tf-logs
      • 忽略我的收敛情况，刚开始训，着急给大家截图，等训完估计得明天了，先哄娃睡觉了，晚安各位😴

    • 好像有点问题，算了，我先早停了

    • 看看模型训练后的效果

      预告：本预训练模型的训练实操后面单独出一期分享哦～

    方便的话，动动您发财的小手，帮忙点个关注，点点赞吧～

      更多推荐

    13、亚马逊SageMaker的超参数调优与大规模训练
    yog99的博客
    08-26 54
    本文详细介绍了亚马逊SageMaker在超参数调优和大规模分布式训练方面的强大功能。涵盖了从超参数调优的最佳实践、优化训练脚本的方法，到SageMaker提供的易用性特性如热池、元数据跟踪，以及后端优化技术如GPU健康检查、弹性训练和分布式训练库的使用。无论是新手还是经验丰富的开发者，都能通过本文了解如何高效地利用SageMaker进行机器学习训练。
    AI容器化部署开发尝试 （一）（Pycharm连接docker，并部署django测试）
    weixin_43134049的博客
    04-19 2141
    Docker 技术与 PyCharm 的整合：加速未来 AI 技术的快速部署在人工智能 (AI) 的快速发展过程中，技术工具的整合与优化不断推动着开发效率的提升。Docker，作为一种开源的容器化平台，提供了一种高效、轻量级的方法来封装和运行应用，确保了应用在不同环境中的一致性和可移植性。而 PyCharm，作为一款广受欢迎的 Python 开发环境，其对 Docker 的支持使得开发者能够在一个集成的环境中更便捷地开发、测试和部署 AI 应用。环境一致性和便捷性。
    ✈️ 解放本地电脑！用服务器跑深度学习，PyCharm远程开发调试
    m0_51233963的博客
    05-07 585
    你的电脑跑不动模型？让服务器当 "打工GPU"，PyCharm远程操控指南，一举多得。
    【pycharm】在本地利用远程服务器显卡跑代码
    热门推荐
    定期分享我的发现和想法，感谢你的陪伴和支持
    12-03 1万+
    Pycharm2021.1连接远程服务器
    【大模型测试】PyCharm for 大模型调测：终极安装与配置指南详细介绍（有关必回）
    2501_92897788的博客
    08-27 1250
    《PyCharm大模型调测指南》为开发者提供了专业版的PyCharm安装与配置全流程，重点解决大模型开发中的环境搭建、远程调试等痛点。指南包含：1)PyCharm专业版安装步骤；2)Conda虚拟环境配置与镜像源加速；3)核心库安装清单；4)必备插件推荐；5)调试技巧与远程服务器连接方法；6)科学模式与TensorBoard集成。特别强调项目目录规范，帮助开发者快速构建高效的大模型研发环境，充分利用PyCharm的智能补全、断点调试等专业功能提升开发效率。
    pycharm使用conda调用远程服务器
    Manonll的博客
    06-30 4017
    仅为自用，过程简单
    远程GPU使用
    Winkyyyyyy的博客
    09-21 1555
    本地与远程GPU使用经验
    PyCharm远程连接Autodl服务器训练自定义Yolov8数据集实战指南
    weixin_42592399的博客
    10-02 1111
    在深度学习项目中，选择合适的计算平台是成功训练高效模型的基础。Autodl 作为国内领先的 AI 算力租赁服务平台，为开发者提供了高性价比的 GPU 实例资源，广泛应用于 YOLOv8、Stable Diffusion、LLM 等大规模模型的训练与推理任务。本章将系统性地讲解如何在 Autodl 平台上完成从实例创建到 YOLOv8 框架完整部署的全过程，涵盖资源管理、环境配置、CUDA 驱动安装及依赖库集成等关键技术环节。
    使用Mindstudio调用Modelarts进行模型训练
    gengu6585的博客
    07-17 2310
    本文介绍如何使用MindStudio调用ModelArts资源进行模型训练。ModelArts是面向AI开发者的一站式开发平台，而Mindstudio是一个IDE，为AI开发提供了所需的一站式开发环境，结合两者可以高效便捷地完成AI应用开发。...
    linux安装pycharm使用gpu训练模型
    03-26
    ### 如何在Linux系统中安装PyCharm并设置GPU加速以训练机器学习模型 #### 一、PyCharm的安装 要在Linux系统上安装PyCharm，可以通过以下方法完成： 1. **下载PyCharm** 访问JetBrains官网 ...
    使用pycharm远程连接GPU
    03-04
    ### 配置PyCharm以实现远程连接到具有GPU的服务器 #### 设置SSH连接 为了使PyCharm能与远程服务器通信，在创建新项目前需先定义好SSH链接。通过`File -> Settings -> Build, Execution, Deployment -> Deployment`...
    【PyCharm远程开发必学10招】：从配置到优化，全面提升工作效率
    [【PyCharm远程开发必学10招】：从配置到优化，全面提升工作效率](https://img-blog.csdnimg.cn/d43605dfb989425da71f009cb508ec4e.png) # 1. PyCharm远程开发简介 ## 简介 PyCharm作为一款流行的Python集成开发...
    Pycharm社区版安装
    残雪飞扬的博客
    11-10 596
    5.点击后，如图进行选择操作，选择自己项目路径，以及自己安装的解释器，完成后点击右下角"Create"2.打开后如图，接着点击左侧 “Plugins”（插件），之后在中间搜索框中搜索"Chinese"到这呢，如果没有汉化需求，那安装配置就结束了，如有汉化需求，请继续往下看。安装到这里基本就完成了，可以选择先重启，也可以先继续先往下看，进行操作。5.之后进入如下界面，勾选如图，勾选好之后点击右下角"下一步"2.打开后如图所示，左下角后勾选，然后右下角点击"继续"4.双击点开后，如图所示，点击右下角"下一步"
    java+maven配置yguard的一次实验
    最新发布
    oTianKongLan123的博客
    11-14 63
    经过源文件和目标文件中文件互相对调发现，当只有类文件，property文件或者yml互相对调的时候可以，只要涉及doc文件，rar文件等久噶了，很开心以为是文件问题 删了文件发现还有问题，怒，继续测试ai提示说我jar包名字不能为中文，我特么就是英文啊，仔细一想这几个文档都是中文，文件已经删了应该没了 那还有一个文件夹带中文，改完 可以跑了。找了classfinal，不知道是jdk问题还是啥，看他几百年没更新了，弃之。找到yguard，有文档，在更新，good，就是你了。配置到项目，啊咧提示。
    PyCharm 软件关联 GitHub 账户
    2301_77987130的博客
    11-14 464
    本文详细介绍了如何在PyCharm中上传代码到GitHub。首先需要配置Git工具，在Pycharm中设置Git的安装路径。其次要关联GitHub账号，通过授权登录完成账户绑定。最后通过"Share Project on GitHub"功能将代码推送至GitHub仓库。文中提供了Git软件下载链接和Git理论知识的参考网址，并配有多张操作流程图解，帮助开发者顺利完成代码上传流程。
    Nginx环境安装
    2509_93970373的博客
    11-10 418
    双击nginx目录下的nginx.exe应用程序，一般情况下，会有一个黑色的弹窗一闪而过，这就代表启动成功了。直接输入 nginx 或者 start nginx，然后回车，就可以启动nginx了。Nginx的配置文件是在conf目录下的nginx.conf文件。Nginx默认端口是80，可通过配置文件查看，（最好修改一下）#1查看Nginx安装路径whereis nginx。在nginx安装目录的绝对路径的框框内输入 cmd。关闭nginx的命令：nginx -s stop。# 启动Nginx服务。
    部署搭建jumpserver堡垒机及跳板机的详解（通俗易懂）
    weixin_61576086的博客
    11-13 966
    就是解决运维权限混乱，操作无审计。Jumpserver是一款开源的堡垒机，可使系统的管理员和开发人员安全的连接到企业内部服务器上执行操作，并且支持大部分操作系统，是一款非常安全的远程连接工具。常见支持的系统：CentOS，RedHat，Fedora，Amazon LinuxDebianSUSE，UbuntuFreeBSD其他ssh协议硬件设备。通过本次Jumpserver堡垒机的完整部署实践，我们深入了解了企业级堡垒机的核心价值与实现原理。
    Skywalking运维之路(Java日志接入)
    会飞的小蛮猪博客
    11-11 353
    这里使用若依SpringBootCloud版本来演示,将Java项目中的日志引入到Skywalking中
    DNS记录更新后为什么还是访问不到新服务器？
    YOKEhn的博客
    11-11 813
    在互联网中，DNS（域名系统）是将域名（如）转换为IP地址（如192.168.1.1）的一种机制，它就像是互联网的“电话簿”。每当用户输入一个网址时，浏览器就会查找该网址对应的IP地址，并通过该地址访问服务器。通常，当我们更换服务器并更新DNS记录时，应该可以顺利访问到新的服务器。但是，有时尽管DNS记录已更新，仍然无法访问新服务器。
    评论
    添加红包

    请填写红包祝福语或标题

    个

    红包个数最小为10个

    元

    红包金额最低5元

    当前余额3.43元 前往充值 >
    需支付：10.00元
    成就一亿技术人!
    领取后你会自动成为博主和红包主的粉丝 规则
    hope_wisdom
    发出的红包

    打赏作者

    AGI舰长

    你的鼓励将是我创作的最大动力

    ¥1 ¥2 ¥4 ¥6 ¥10 ¥20
    扫码支付：¥1
    获取中
    扫码支付

    您的余额不足，请更换扫码支付或充值

    打赏作者

    实付元
    使用余额支付
    点击重新获取
    扫码支付
    钱包余额 0

    抵扣说明：

    1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
    2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

    余额充值