TensorBoardX学习

TensorBoardX是一个Python库，专为PyTorch用户设计，用于在PyTorch环境中提供类似于TensorFlow的TensorBoard可视化功能。TensorBoard是TensorFlow的一个可视化工具，它可以帮助研究人员理解和优化神经网络训练过程。

SummaryWriter 是 TensorBoardX（现在更常见的是 torch.utils.tensorboard，它是 PyTorch 官方库的一部分，用于替代 TensorBoardX）中的一个核心类，它提供了一个高级的API来在指定的目录中创建事件文件，并向其中添加摘要（summaries）和事件（events）。SummaryWriter 类以异步的方式更新文件内容，这意味着训练程序可以直接从训练循环中调用它的方法来添加数据到文件中，而不需要减慢训练的速度。

使用 SummaryWriter，你可以在训练神经网络时记录各种信息，例如损失值、准确率、梯度直方图、模型结构图、图像样本等，并通过 TensorBoard 可视化工具来查看这些信息。

下面是一个简单的例子，展示了如何使用 SummaryWriter 来记录一些简单的数据：

from torch.utils.tensorboard import SummaryWriter  
import torch  
  
# 创建一个 SummaryWriter 实例，指定日志目录  
writer = SummaryWriter('runs/my_experiment')  
  
# 假设我们在训练循环中  
for i in range(100):  
    # 模拟一些损失值  
    loss = torch.randn(1)  
      
    # 将损失值添加到 summary 中，并指定一个标签和全局步骤（通常是迭代次数）  
    writer.add_scalar('Loss/train', loss.item(), i)  
      
    # ... 在这里还可以添加其他类型的摘要，比如图片、直方图等  
      
    # 假设这是一个训练周期结束  
    if (i+1) % 10 == 0:  
        # 刷新缓冲区以确保数据被写入磁盘  
        writer.flush()  
  
# 当训练结束时，关闭 writer  
writer.close()

在这个例子中，add_scalar 方法用于记录一个单一的数值（如损失值或准确率），并为其指定一个标签和全局步骤。之后，你可以启动 TensorBoard 并指向包含事件文件的目录（在这个例子中是 runs/my_experiment），来查看这些数据的可视化结果。

请注意，由于 SummaryWriter 以异步方式工作，所以在程序结束时调用 writer.close() 是一个好习惯，以确保所有的数据都被正确地写入到文件中。然而，在某些情况下，如果你知道程序会在退出时正确关闭，或者你想要保持 SummaryWriter 实例打开以便在后续的代码中使用，那么你也可以选择不调用 close() 方法。

tensorboard --logdir=runs/my_experiment

在终端上运行