如何搭建socks5和ss节点_在Jupyter Lab中搭建Python工作流

ea567a3370a5ad596385553470e1a29b.png
来源:python大数据分析
作者:费弗里

1 简介

jupyter lab是我最喜欢的编辑器,在过往的文章中也给大家介绍过很多相关资源和实用插件,但本文要给大家介绍的jupyter lab插件elyra,绝对是我使用过的最强大的jupyter lab插件没有之一,因为它的核心功能就是帮助我们解决数据分析工作中非常重要的问题——「搭建工作流」

8f9e78b8a471a8551a5c2f7bae6162cb.png
图1

2 利用elyra搭建工作流

在安装elyra插件集之前,请确保你的jupyter lab版本在2.0及以上,并且已经安装好了nodejs也就是所有jupyter lab拓展插件都需要的依赖。

不像常规的jupyter lab插件的安装方法,我们执行下列命令即可安装elyra下集成的多个插件:

pip install --upgrade elyra && jupyter lab build

安装完之后,你的jupyter lab操作界面外观会发生一些变化,我们先记住在安装elyra之前我们的jupyter lab界面长啥样(我使用的主题感兴趣的朋友可以通过jupyter labextension install jupyterlab-tailwind-theme来安装):

8e9c8db8ddf92d96e521fe524e26a052.png
图2

而在安装完成重启jupyter lab之后,除了左上角的jupyterlogo变化了之外,还新增了图中我用红框框选出来的地方:

fdddba0aa789b12a90ccb383cf6248e1.png
图3

接下来我们就来介绍如何利用elyra交互式地「搭建工作流」

elyra赋予了我们通过交互的方式将若干个ipynb文件组织成工作流的能力,为了方便演示,这里我们创建几个带有简单流程代码的ipynb文件:

4dcdf85cc772ae2d483d07b529098405.png
图4 step1.ipynb

268aef04b8b72cec2ca108d9ae2d6237.png
图5 step2.ipynb

3b50497c1b10ec196408211f7f7d030f.png
图6 step2-1.ipynb

0bc51fc23544cc03447e6dd51acff4db.png
图7 step2-2.ipynb

接着我们在「Launcher」页面点击Pipeline Editor打开用来交互式编辑「notebook流水线」的界面:

8edb76657ce588cdefc529d40dd5a5b5.png
图8

e37317167f7a11f2fc440a66468f86e2.png
图9

直接将侧边栏中对应的step1.ipynb文件拖拽进来:

fbd0c82220afa5c58bea2f0412890494.png
图10

点击流水线界面中ipynb文件对应节点右侧的三个圆点,可以打开更多功能选项:

6ee9d9619e088939cfd2daf3c46bd02c.png
图11

因为我们是本地环境,所以这里只需要在properties下必填参数Runtime Image中随便选一个就行:

9220f85970babdd0e61d306ca654a0d2.png
图12

保存之后,就完成了本地环境下单个节点的必要参数设置,同样的将其他ipynb文件拖拽进来,各自配置好必要参数再如图13所示将各节点联结起来:

6a4febe781d92831922f8475e256769f.png
图13

这样我们的流水线就搭建好了,是不是非常滴好玩~,接着点击左上角的运行按钮,输入流水线名称后即可开始运行我们的工作流:

822eb341629466fb2f0e8a217e4a4011.png
图14

工作流执行成功之后也会有提示:

ecb17b26d3d479abe54b0d743a909a1c.png
图15

如果工作流执行到某个节点发生程序错误,也会有非常人性化的提示:

dc845fd7b4f158af7bf484def8510bce.png
图16

对应出错的ipynb错误代码块上方,elyra也会帮我们创建记录错误信息的markdown单元格:

374fcde258d9c51b7ab1bbc6c3f26bbe.png
图17

最好用的是,配合魔术命令%store,我们就可以跨notebook传递全局变量,而不需要再往外写出先前节点的结果文件:

利用%store 变量名将某个变量转化为跨kernel的全局变量:

9bbe405ba24287030eb438b2a2958c4b.png
图18

利用%store -r 变量名将跨kernel全局变量中的指定变量加载到当前kernel中:

fdf80574be267d53a6ec0fbbd6e51efb.png
图19

而除了「搭建工作流」这个核心功能外,elyra还有很多其他的实用功能,感兴趣的朋友可以前往官方文档(https://elyra.readthedocs.io/en/latest/)自行阅读学习。

bb7f1536d28b503706b25c0e96ef68b5.png
图20
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值