Python Tqdm:进度监测神器

在实际项目和工作需求之中,我们面对的数据大小往往以G计数,数据条数在100k以上。Excel是进行数据透视和简单函数计算很不错的工具,但是在是读存数据体量较大(10w-104w条数据)、计算速度较慢(超过30min)的场景下,我们很难真实预测完成一份数据分析工作的时间。

尽管Python在读取数十万条信息是同样需要一定的时间,但第三方包Tqdm可以很好地帮助我们避免上述问题。在发现Tqdm之前,基本上是通过写循环,print出当前的工作进度。在发现Tqdm之后,只需要一行代码,不仅可以知道机器目前工作的进度,还可以预测完成剩余工作的时间。

以最近的工作代码为例:

from tqdm.auto import tqdm
for i in tqdm(range(2, 20, 2)):
    X = test[[f'k{i}_t', f'k{i}_d', f'k{i}_b']]
    y = test['veracity (0=0, 1=1, 2=2)']
    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4)
    binary_instructure_model = XGBClassifier()
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    acc = accuracy_score(y_pred, y_test)
    score.append(acc)

如果是大体量数据利用遍历的方式完成上述机器学习代码需要花费数个小时(之前跑了一段代码,花费13小时,如果没有tqdm,可能心态早就崩了)

在这里插入图片描述

tqdm可以告诉我们代码究竟是”活着“还是"死了",还需要多久才能完成工作~

Plus:

from tqdm.auto import tqdm
from tqdm import tqdm
#后来发现,尽管两行代码都可以成功导入pkg,但不同的import代码会使tqdm进度块有不同的显示方式

有关于该包的更多食用方式,可移步https://github.com/tqdm/tqdm进行探索~

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值