![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Pytorch-Lightning
奈何桥边摆地摊
终是没等到你赠的那握月光.
展开
-
关于lightning2.0更新
上次写Pytorch Lightning还是一年前,最近又再次拾起Pytorch Lightning,发现其已经更新到2.0.1版本,相比于1.x版本,API参数发生了一些变换。 目前已知Trainer启用硬加加速的方式发生了变换,笔者已经更新了对应的博客,另外一个变化是包的名字发生了变化,只需将1.x中的。原创 2023-04-24 14:45:42 · 871 阅读 · 0 评论 -
Pytorch-Lightning--Trainer
Pytorch-Lightning中Trainer用法原创 2022-01-28 18:44:42 · 5450 阅读 · 0 评论 -
Pytorch-Lightning混合精度训练
Pytorch-Lightning混合精度训练原创 2022-01-24 18:56:34 · 3532 阅读 · 5 评论 -
Pytorch-Lightning训练技巧
Pytorch-Lightning训练技巧原创 2022-01-24 18:55:33 · 1682 阅读 · 0 评论 -
Pytorch-Lightning中模型保存与加载
Pytorch-LIghtning中模型保存与加载保存自动保存from pytorch_lightning.callbacks import ModelCheckpointclass LitAutoEncoder(LightningModule): def validation_step(self, batch, batch_idx): x, y = batch y_hat = self.backbone(x) # 1. 计算loss原创 2022-01-23 18:18:33 · 18651 阅读 · 7 评论 -
Pytorch-Lightning--Tuner
Pytorch-Lightning–Tunerlr_find()参数详解参数名称含义默认值modelLightningModule实例train_dataloaders训练数据加载器Noneval_dataloaders验证数据加载器NonedatamoduleLightningDataModule实例Nonemin_lr学习率最小值1e-08max_lr学习率最大值1num_training测试学习率的训练轮数10原创 2022-01-23 18:15:55 · 1920 阅读 · 0 评论 -
日志记录-Loging
Pytorch-Lightning中的日志记录TensorBoardLogger常用参数参数名称含义默认值save_dir保存路径name该日志记录器的名字defaultlog_graph向Tensorboard中添加计算图,要求用户模型定义了self.example_input_array属性FalseLightningModule.log()用法常用参数参数名称含义默认值name该日志记录的名字value该日原创 2022-01-23 18:11:08 · 454 阅读 · 0 评论 -
Callback--EarlyStopping
EarlyStopping参数详解参数名称含义默认值monitor要监视的指标(log()记录的指标)Nonemin_delta最小误差0.0patience当monitor不在变化时再检查k次后停止训练3verbose详细模式Falsemode监视指标的最大值还是最小值.对于loss应使用'min',对于accuracy应使用'max''min'strict当log()中不存在monitor时停止训练Truecheck_原创 2022-01-23 18:10:29 · 336 阅读 · 0 评论 -
Callback--ModelCheckpoint
ModelCheckpoint常用参数参数名称含义默认值dirpathckpt文件保存路径None(使用Trainer的default_root_dir或weights_save_path,如果Trainer使用了logger,那么path将会包含logger的名字和版本)filenameckpt文件名(支持自动填充)None({epoch}-{step})monitor要监视的指标(log()记录的指标)None(保存最后一次epoch训练的结果)s原创 2022-01-23 18:09:00 · 789 阅读 · 0 评论 -
Pytorch-Lightning--v1.9中的训练器--Trainer
Pytorch-Lightning中的训练器—Trainer参数名称含义默认值接受类型callbacks添加回调函数或回调函数列表None(ModelCheckpoint默认值)Union[List[Callback], Callback, None]enable_checkpointing是否使用callbacksTrueboolenable_progress_bar是否显示进度条Trueboolenable_mo原创 2022-01-23 18:08:14 · 10501 阅读 · 3 评论