Pytorch Lightning 的学习记录20220608

1.Pytorch Lightning框架：使用笔记

Pytorch Lightning框架：使用笔记【LightningModule、LightningDataModule、Trainer、ModelCheckpoint】_u013250861的博客-CSDN博客pytorch是有缺陷的，例如要用半精度训练、BatchNorm参数同步、单机多卡训练，则要安排一下Apex，Apex安装也是很烦啊，我个人经历是各种报错，安装好了程序还是各种报错，而pl则不同，这些全部都安排，而且只要设置一下参数就可以了。另外，根据我训练的模型，4张卡的训练速度大概提升3倍，训练效果（图像生成）好很多，真香。另外，还有一个特色，就是你的超参数全部保存到模型中，如果你要调巨多参数，那就不需要再对每个训练的模型进行参数标记了，而且恢复模型时可以直接恢复超参数，可以大大减小代码量和工作量，这.https://blog.csdn.net/u013250861/article/details/1235911302.PyTorchLightning

     https://github.com/PyTorchLightning/pytorch-lightning

Trainer — PyTorch Lightning 1.7.0dev documentationhttps://pytorch-lightning.readthedocs.io/en/latest/common/trainer.htmlhttps://github.com/PyTorchLightning/pytorch-lightning/blob/master/docs/source/common/trainer.rst

3.从Pytorch到Pytorch Lightning - （1）快速上手

从Pytorch到Pytorch Lightning - （1）快速上手 - 知乎写在前面最近要开始准备毕业论文，又要重新开始炼丹了。之前在使用Pytorch的时候觉得在完成dataloader和model之后，还要写一堆train&test code有些过于繁琐。 在短暂地了解了Pytorch Lightning之后，发现这个…https://zhuanlan.zhihu.com/p/435182774

    从Pytorch到Pytorch Lightning - （2）将Pytorch项目迁移至Lightning

从Pytorch到Pytorch Lightning - （2）将Pytorch项目迁移至Lightning - 知乎这次以双目立体匹配任务中的PSMNet为例，介绍一下如何将已有的Pytorch项目迁移至Pytorch Lightning 这里用的是非官方实现版，项目地址： GitHub - KinglittleQ/PSMNet: A Pytorch implementation of Pyramid Stere…https://zhuanlan.zhihu.com/p/436895422

这次以双目立体匹配任务中的PSMNet为例，介绍一下如何将已有的Pytorch项目迁移至Pytorch Lightning

这里用的是非官方实现版，项目地址：https://github.com/KinglittleQ/PSMNet

GitHub - KinglittleQ/PSMNet: A Pytorch implementation of Pyramid Stereo Matching Network

最终的Pytorch Lightning版在这里：

https://github.com/xtliu97/PSMNet_PytorchLightning​github.com/xtliu97/PSMNet_PytorchLightning

   

    从Pytorch到Pytorch lightning - (3) Trainer的使用

从Pytorch到Pytorch lightning - (3) Trainer的使用 - 知乎回顾 在前两篇文章中，我们介绍了如何搭建、或如何将已有的Pytorch项目转换为Pytorch Lightning项目。 无论何种方法，我们的目的都是得到两个最重要的类： 数据集 - 继承pytorch_lightning.LightningDataModule cl…https://zhuanlan.zhihu.com/p/440961384