TensorBoard快速入门(Pytorch使用TensorBoard)

TensorBoard 简介

TensorBoard 是Google开发的一个机器学习可视化工具。其主要用于记录机器学习过程,例如:

  • 记录损失变化、准确率变化
  • 记录图片变化、语音变化、文本变化等,例如在做GAN时,可以过一段时间记录一张生成的图片
  • 绘制模型

具体支持的内容可以参考官方文档


TensorBoard 界面介绍

在这里插入图片描述


TensorBoard 安装

直接使用pip安装即可:

pip install tensorboard

安装后,在命令行输入:

tensorboard --help

若可以正常输出,则说明安装成功。


TensorBoard 运行

运行启动命令即可:

tensorboard --logdir my_log

my_log是TensorBoard的log文件所在的目录。Tensorboard面板中展示的数据都来源于log文件,一般一次完整的运行生成一份log文件

例如,在Pytorch中,我们会调用new一个SummaryWriter对象,此时就会创建一个log文件,之后我们就会调用其add_something方法,往log里面写日志,之后在TensorBoard面板中就可以看到数据了。最后在训练完成后,调用close方法结束。

若看到了如下输出,说明启动成功:

TensorBoard 2.8.0 at http://localhost:6006/ (Press CTRL+C to quit)

此时只需要在浏览器中输入http://localhost:6006/即可进入TensorBoard界面。


Pytorch 使用 TensorBoard

Pytorch使用Tensorboard主要用到了三个API:

  • SummaryWriter:这个用来创建一个log文件,TensorBoard面板查看时,也是需要选择查看那个log文件。
  • add_something: 向log文件里面增添数据。例如可以通过add_scalar增添折线图数据,add_image可以增添图片。
  • close:当训练结束后,我们可以通过close方法结束log写入。

接下来,我们来模拟记录训练过程中准确率的变化。

首先需要new一个SummaryWriter对象:

from torch.utils.tensorboard import SummaryWriter

writer = SummaryWriter(log_dir='runs/mock_accuracy')

当运行完该行代码后,可以看到当前目录下生成了一个runs/mock_accuracy文件夹,并且里面有event日志
在这里插入图片描述

此时已经可以启动tensorboard来查看了:

tensorboard --logdir runs

此时进入tensorboard页面后,啥都看不到,因为我们还没有向log里面写入任何数据:

在这里插入图片描述

接下来使用 add_scalar 绘制准确率折线图:

for i in range(100):
    writer.add_scalar(tag="accuracy", # 可以暂时理解为图像的名字
                      scalar_value=i * random.uniform(0.8, 1),  # 纵坐标的值
                      global_step=i  # 当前是第几次迭代,可以理解为横坐标的值
                      )
    time.sleep(2 * random.uniform(0.5, 1.5))

这里模拟 1~3 秒完成一次迭代并计算准确率,然后将准确率增添到 accuracy 这个图下面。

过一会后,我们刷新页面,就可以看到我们的准确率变化曲线了:

在这里插入图片描述

由于数据还在写入,所以曲线还在不断变化。

如何和将多个曲线绘制在一张图中? 答:使用writer.add_scalars即可

如何将多个图像放在一个tag下?答:在指定tag时,使用同一个父tag,然后使用/分割即可。例如:tag=record/avg_loss, tag=record/total_loss


Google Colab中使用 Tensorboard

在Google Colab中使用Tensorboard只需要两行命令:

%load_ext tensorboard # 加载tensorboard扩展插件
%tensorboard --logdir=runs  # 运行tensorboard

在运行完tensorboard后,在该单元格下面就会出现tensorboard页面:

在这里插入图片描述
之后就和之前一样使用writer写入数据即可,然后手动点击在这里插入图片描述按钮即可,或者使用在这里插入图片描述按钮开启自动刷新。

在这里插入图片描述

在Google Colab中不像本地那样刷新那么快,即使手动点刷新按钮也不行,我自己测试下来,大概1分钟才能真正更新一次数据。


Tensor折线图(Scalars)

在这里插入图片描述

  • TODO:其他图形的介绍
  • 85
    点赞
  • 783
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
### 回答1: TensorBoard是一个可视化工具,用于监控和分析深度学习模型的训练过程。它可以帮助我们更好地理解模型的行为和性能,并发现模型中的问题。 在PyTorch中,我们可以使用TensorBoardX库来将PyTorch模型的训练过程可视化到TensorBoard中。下面是使用TensorBoardX的步骤: 1. 安装TensorBoardX库 ```python pip install tensorboardX ``` 2. 导入TensorBoardX库 ```python from tensorboardX import SummaryWriter ``` 3. 创建SummaryWriter对象 ```python writer = SummaryWriter() ``` 4. 在训练过程中,将需要可视化的数据写入SummaryWriter对象中 ```python for epoch in range(num_epochs): # 训练代码 # ... # 将需要可视化的数据写入SummaryWriter对象中 writer.add_scalar('loss', loss.item(), epoch) writer.add_scalar('accuracy', accuracy, epoch) ``` 5. 启动TensorBoard服务器 ```python tensorboard --logdir=runs ``` 6. 在浏览器中打开TensorBoard页面 在浏览器中输入http://localhost:6006,即可打开TensorBoard页面,查看训练过程中的可视化结果。 以上就是使用TensorBoardX库在PyTorch中可视化模型训练过程的步骤。希望对你有所帮助! ### 回答2: Tensorboard是TensorFlow的可视化工具,但是它也可以用于Pytorch。在Pytorch中,我们可以使用Tensorboard来查看训练和测试的损失或精度,查看网络的结构和参数,可视化输入和输出数据以及查看激活值和梯度等等。 以下是使用Tensorboard的步骤: 1.安装Tensorboard:在安装PyTorch的时候就已经包含了Tensorboard,但是需要另外安装tensorflow。 2.导入Tensorboard:在代码中导入Tensorboard,代码如下: ``` from torch.utils.tensorboard import SummaryWriter writer = SummaryWriter('logs') ``` 3.记录训练集和测试集的损失和精度:使用`add_scalar()`函数来记录训练集和测试集的损失和精度。代码如下: ``` writer.add_scalar('Loss/train', train_loss, epoch) writer.add_scalar('Loss/test', test_loss, epoch) writer.add_scalar('Accuracy/train', train_acc, epoch) writer.add_scalar('Accuracy/test', test_acc, epoch) ``` 可以在Tensorboard中查看损失和精度的变化情况。 4.记录网络结构和参数:使用`add_graph()`函数来记录网络结构和参数。代码如下: ``` writer.add_graph(net, inputs) ``` 在Tensorboard中可以看到网络结构和参数。 5.记录输入和输出数据:使用`add_image()`或`add_images()`函数来记录输入和输出数据。代码如下: ``` writer.add_image('input_data', inputs, epoch) writer.add_images('output_data', outputs, epoch) ``` 在Tensorboard中可以看到输入和输出数据。 6.可视化激活值和梯度:使用`add_histogram()`函数来记录激活值和梯度的分布情况。代码如下: ``` writer.add_histogram('conv1/weights', net.conv1.weight, epoch) writer.add_histogram('fc1/grad', net.fc1.weight.grad, epoch) ``` 在Tensorboard中可以看到激活值和梯度的分布情况。 7.运行Tensorboard:在终端运行以下命令来启动Tensorboard: ``` tensorboard --logdir=logs ``` 在浏览器中打开`http://localhost:6006/`可以看到Tensorboard。 以上就是使用Tensorboard的步骤,通过图表等的方式可以更加直观的了解网络训练和其他方面的情况,从而有一个更好的优化方向。 ### 回答3: TensorBoard是TensorFlow可视化工具,能够帮助我们更好地理解网络结构和训练过程中的数据。而PyTorch也支持TensorBoard的可视化。在本文中,我们将讲解如何在PyTorch使用TensorBoard。 首先,需要安装TensorBoard。可以使用以下命令安装: ``` pip install tensorboard ``` 安装完后,我们需要在训练过程中记录一些数据,以便后续可视化。在PyTorch中,可以使用SummaryWriter实例来记录数据。以下是一个简单的例子: ``` from torch.utils.tensorboard import SummaryWriter # 创建SummaryWriter实例 writer = SummaryWriter() # 记录scalar数据 writer.add_scalar('train_loss', loss, epoch) # 记录images writer.add_images('input_images', inputs, epoch) # 记录模型参数 for name, param in model.named_parameters(): writer.add_histogram(name, param.data.cpu().numpy(), epoch) # 关闭SummaryWriter writer.close() ``` 这里我们创建了一个SummaryWriter实例,并记录了一些数据。其中,add_scalar用于记录scalar数据,参数分别为tag(记录的标签),scalar_value(记录的值)和global_step(记录的步数)。add_images用于记录images数据,参数分别为tag、images和global_step。add_histogram用于记录模型参数的分布情况,也可以用于权重衰减等分析。 在训练过程中,我们可以不断地记录数据。完成训练后,可以使用以下命令启动TensorBoard服务器: ``` tensorboard --logdir=path/to/logs ``` 其中,--logdir参数为记录数据的目录,即SummaryWriter中的log_dir参数。启动成功后,在浏览器中访问http://localhost:6006,即可看到TensorBoard的界面。在界面中,我们可以看到每个tag的变化曲线、images的显示以及模型参数的分布情况等。并且,TensorBoard还提供了很多交互式的工具,如embedding projector、graph等,方便我们更好地理解网络结构和数据分布情况。 需要注意的是,TensorBoard默认只能记录最近的1000个events。因此,如果数据太多,可能会被覆盖。可以通过在SummaryWriter中设置max_queue参数来控制队列的长度。 以上就是TensorBoard使用教程在PyTorch中的介绍。TensorBoard的可视化工具能够帮助我们更好地理解模型和训练数据,提高模型调试和优化的效率。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

iioSnail

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值