Pytorch-Lightning中的日志记录

最新推荐文章于 2024-03-22 16:13:02 发布
最新推荐文章于 2024-03-22 16:13:02 发布
阅读量6.5k 收藏 3
点赞数 2
文章标签： pytorch 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_27135095/article/details/122635767
版权

Pytorch-Lightning中的日志记录

TensorBoardLogger

常用参数

参数名称含义默认值
save_dir保存路径
name该日志记录器的名字default
log_graph向Tensorboard中添加计算图，要求用户模型定义了self.example_input_array属性False

LightningModule.log()用法

常用参数

参数名称含义默认值
name该日志记录的名字
value该日志记录的值
prog_bar是否在进度条上打印日志False
logger将日志写入日志记录器（前提是Trainer已设置日志记录器）True
on_step每次网络权重更新都记录一次None(False)
on_epoch每个epoch都记录一次None(False)
rank_zero_only在分布式训练任务中log()函数仅在0号设备有效None(False)

使用注意

  • 如果on_step和on_epoch同时使用，那么log()的name会追加_step和__epoch
奈何桥边摆地摊
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
用 PyTorch Lightning 监控和串流 PyTorch 的训练进度 TensorBoard MNISTDataModule 训练 查看训练进度
万有文的博客
04-13 1243
PyTorch Lightning 的 Trainer 还提供了一个自定义进度条的功能，你可以通过 progress_bar_refresh_rate 参数来设置进度条的更新频率。PyTorch Lightning 的 Trainer 类有许多内置的回调函数（callbacks），可以在训练的不同阶段触发。PyTorch Lightning 是一个非常有用的库，它提供了一种更简洁、更模块化的方式来构建和训练 PyTorch 模型。你也可以创建自定义的回调函数，以在训练过程中执行特定的操作。
pytorch-lightning-template
03-08
火炬闪电模板 Pytorch-Lightning是一个很好的库，或者说是Pytorch的抽象和包装。它的好处是可替代性强，易维护，逻辑清晰等。缺点也很明显，这个包需要学习和理解的内容还是如果直接按照官方的模板写的代码，小型项目还好，如果是大型项目，有复数个需要调试验证的模型和数据集，那就不太好办，甚至更加麻烦了。经过几天的摸索和调试，我总结出了下面这样一套好的用的模板，也可以说是对Pytorch-Lightning的进一步摘要。 欢迎大家尝试这一套代码风格，如果用习惯的话还是相当方便替代的，也不容易半道退坑。 root- |-data |-__init__.py |-data_interface.py |-xxxdataset1.py |-xxxdataset2.py |-... |-model |-__init__.py |-model_interfac
pytorch-lightning离线文档
04-05
pytorch-lightning 1.7.0离线文献。 官方网站：https://www.pytorchlightning.ai/ Github地址：https://github.com/PyTorchLightning 这个文档是html格式的，下载后直接解压，双击index.html，然后就可以开始查阅了，非常方便。本地查询速度快，大大提高开发效率。 pytorch-lighting（简称pl），它其实就是一个轻量级的PyTorch库，用于高性能人工智能研究的轻量级PyTorch包装器。缩放你的模型，而不是样板。 它可以清晰地抽象和自动化ML模型所附带的所有日常样板代码，允许您专注于实际的ML部分（这些也往往是最有趣的部分）。除了自动化样板代码外，Lightning还可以作为一种样式指南，用于构建干净且可复制的ML系统。 Lightning makes coding complex networks simple.
报错解决：No module named ‘pytorch_lightning.utilities.distributed‘，rank_zero_only导入失败
最新发布
Ps_hello的博客
03-22 610
解决办法：该函数已移至具有不同名称的新脚本。
6.pytorch lightning 跟踪训练
论文学习笔记-《Fast Online Object Tracking and Segmentation- A Unifying Approach》
04-27 551
模型训练时，通常需要查看trainig_loss确认训练过程是否正常，以及根据验证集评估的精度保存模型，则需要将这些信息记录，用于logger自动绘制学习曲线等。另外，你可以需要查看模型推理结果是否正常，则可以记录模型预测的图片、文本等结果。训练管理器Trainer会根据相应的设置（比如ModelCheckpoint 保存模型的callback）执行处理流程。为了跟踪训练，在 LightningModule的方法中调用self.log /self.log_dict。
pytorch_lightning中lightning_logs里的hparams.yaml输出为空问题
jst100的博客
05-16 1199
  问题就是如上述所示，pytorch_lightning里边是自带可以输出参数内容的，就如下图所示   但是我在学习这个框架并输出结果的时候发现我这里相应的文件生成，但是却没有内容，然后发现是因为给模型传args的时候我的命令是写的 self.args = args   但后边看这个文件发现它是“hparams”，也就是写self.args根本接收不到，所以输出为空，该成下面的代码即可 self.hparams = args   当然后面用到这个参数的时候别忘了是self.什么，不要不带self。
【Pytorch】Pytorch Lightning 完全攻略
AiFool的博客
02-27 716
Pytorch-Lightning这个库我“发现”过两次。第一次发现时，感觉它很重很难学，而且似乎自己也用不上。但是后面随着做的项目开始出现了一些稍微高阶的要求，我发现我总是不断地在相似工程代码上花费大量时间，Debug也是这些代码花的时间最多，而且渐渐产生了一个矛盾之处：如果想要更多更好的功能，如TensorBoard支持，Early Stop，LR Scheduler，分布式训练，快速测试等，代码就无可避免地变得越来越长，看起来也越来越乱，同时核心的训练逻辑也渐渐被这些工程代码盖过。
pytorch lightning 手写数字分类实例 (三)
u014264373的博客
05-29 1441
今天通过手写数字来学习如何利用pytorch-lightning进行分类 代码同第二部分的差不多，新增了断点训练和测试部分。 项目使用jupyter notebook演示 此部分代码很简单，小白也能上手，赶快来试一试吧～～～ 文章目录SET SEEDdataloadertrainingtesting测试结果显示 import torch from torch import nn import pytorch_lightning as pl from torch.utils.data import DataL
Diffusion程序调试相关问题汇总
fovever_的博客
07-26 3348
作为一个强大的生成模型，Diffusion Model（扩散模型）已经“侵袭”了各类low-level视觉任务。现有的Diffusion Model都是基于Stable diffusion实现的，在复现的时候会遇到一些问题，本篇博文总结了自己在复现过程中遇到的一些bug，及其解决方案。希望能有帮助。
stablediffusion安装
baidu_32683111的博客
09-26 135
引用转载：https://blog.csdn.net/goodgoodstudy___/article/details/121577651。解决：from pytorch_lightning.utilities.rank_zero import rank_zero_only。1、pip install ninja，有时需要unintall,然后再install下，每次install后会出现问题2。2、根据错误提示：更新"ninja" “-v” 为 “ninja" “–version”
Python库 | pytorch-lightning-0.8.1.tar.gz
04-14
资源分类：Python库 所属语言：Python 资源全名：pytorch-lightning-0.8.1.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
基于PyTorch与PyTorch-Lightning进行人工神经网络模型与CNN模型的构建.zip
07-09
准备阶段，使用 PyTorch-Lightning 进行训练框架的搭建。 在{model_name}_main.py 入口脚本（例如 cnn_main.py）中设置 Global Seed 为 42，使用自定义的 MnistDataLoader 作为训练数据，使用 pl.Trainer()对模型...
Python库 | pytorch-lightning-bolts-0.1.1.tar.gz
04-14
资源分类：Python库 所属语言：Python 资源全名：pytorch-lightning-bolts-0.1.1.tar.gz 资源来源：官方 安装方法：https://lanzao.blog.csdn.net/article/details/101784059
【PyTorch Lightning】1.0 正式发布：从 0 到 1
闻韶
10-24 1587
还记得那个看起来像 Keras 的轻量版 PyTorch 框架 Lightning 吗？它终于出了 1.0.0 版本，并增添了很多新功能，在度量、优化、日志记录、数据流、检查点等方面均进行了完善。 Keras 和 PyTorch 都是对初学者非常友好的深度学习框架，两者各有优势，很多研究者和开发者在选择框架时可能会举棋不定。基于这种情况，grid.ai CEO、纽约大学博士 William Falcon 创建了 PyTorch Lightning，为 PyTorch 披上了一件 Keras 的外衣。
PyTorch深度学习必用库之PyTorch Lightning新手教程（附100行的完整深度学习项目代码模板）
weixin_44517742的博客
03-15 2985
训练自动化：PyTorch Lightning可以帮助开发者处理训练循环，包括数据加载、批次迭代、前向传播、损失计算和反向传播等。100行左右的代码就可以写出完整的深度学习项目。分布式训练支持：PyTorch Lightning支持分布式训练，可以在多个GPU或多台机器上进行训练，从而加快训练速度，而且配置特别简单。可复现性：PyTorch Lightning提供的API方便用户使用固定的随机种子和训练环境，确保每次运行的结果是可复现的。
Pytorch-Lightning中的训练器—Trainer
热门推荐
愿有人陪你颠沛流离！
01-22 1万+
Pytorch-Lightning中训练器Trainer用法
Pytorch-lightning
be_humble的博客
09-01 1153
Pytorch-Lightning AI工具库
pytorch_lightning 关于 _get_rank的升级公告
预备的小小CV算法工程师
03-15 677
报错ImportError: cannot import name ‘_get_rank’ from ‘pytorch_lightning.utilities.rank_zero’修改下面的代码即可（2023.03）
Pytorch-LIghtning输出Accuracy
09-19
### 回答1： Pytorch-Lightning可以通过使用自带的Accuracy模块来输出模型的准确率。具体的代码实现可以参考以下示例： ```python from pytorch_lightning.metrics import Accuracy accuracy = Accuracy() acc = accuracy(preds, targets) print(f"Accuracy: {acc}") ``` 其中，preds是模型的预测结果，targets是真实标签。使用Accuracy模块可以方便地计算模型的准确率。 ### 回答2： Pytorch-Lightning是一个轻量级的PyTorch扩展库，它提供了一种简化和标准化训练循环的方式。在PyTorch-Lightning中，我们可以很方便地输出模型在训练和测试过程中的准确性。 Pytorch-Lightning提供了一个内置的`Accuracy`类来计算准确性。要在训练过程中输出准确度，我们可以在`training_step`函数中使用`self.log`函数来输出准确性度量。 具体步骤如下： 1. 在`pl.LightningModule`类的构造函数中导入`Accuracy`类。 ```python from torchmetrics import Accuracy ``` 2. 在`pl.LightningModule`类的`training_step`方法中，创建一个`Accuracy`对象并计算准确性。 ```python def training_step(self, batch, batch_idx): ... accuracy = Accuracy() output = self.forward(batch) loss = self.loss(output, target) acc = accuracy(output, target) self.log('train_acc', acc, on_step=True, on_epoch=True) ... return loss ``` 在上述代码中，我们首先创建了一个`Accuracy`对象，然后使用模型的输出和真实标签计算准确性。最后，我们使用`self.log`函数将准确度`acc`作为训练指标输出，`on_step=True`表示每个训练步骤都输出一次准确度，`on_epoch=True`表示每个训练周期都输出一次准确度。 3. 在`trainer`对象中设置日志路径和输出参数。 ```python from pytorch_lightning import Trainer trainer = Trainer( ... ) ``` 通过设置`Trainer`对象的参数，我们可以指定输出路径、训练周期等等。 4. 启动训练过程。 ```python trainer.fit(model, data_module) ``` 在上述代码中，`model`是我们定义的`pl.LightningModule`子类的实例，`data_module`是我们定义的数据模块对象。 以上就是使用Pytorch-Lightning输出模型准确度的步骤。通过使用内置的`Accuracy`类和`self.log`函数，我们可以很方便地在训练和测试过程中输出模型的准确性。 ### 回答3： Pytorch-Lightning是一个用于训练深度学习模型的Python框架，可以方便地计算并输出模型的准确率。在Pytorch-Lightning中，我们可以通过以下几个步骤来输出模型的准确率。 首先，我们需要定义一个评估函数，用于计算模型在验证集或测试集上的准确率。这个评估函数可以根据具体任务的需求自定义，例如对于分类任务，可以使用预测结果与真实标签进行比较，计算正确预测的样本数量，并除以总样本数量得到准确率。 接下来，在Pytorch-Lightning的训练过程中，在验证或测试阶段调用这个评估函数，计算模型在验证或测试集上的准确率。这可以在`validation_step`或`test_step`方法中完成，根据具体需求选择。 最后，在训练过程的日志中，通过使用Pytorch-Lightning提供的`self.log()`函数来记录准确率。这个函数可以将准确率作为一个指标进行记录，方便后续分析和可视化。在训练过程结束后，可以在输出的日志中查看并分析模型的准确率。 综上所述，Pytorch-Lightning可以方便地输出模型的准确率。通过自定义评估函数并在训练过程中调用，然后使用`self.log()`函数记录准确率，我们可以在训练过程中及时监控模型的性能，并对其做进一步分析和优化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值