一、模型网络结构可视化
1. 直接print(model)
优点: pytorch自带,直接打印即可
缺点:参数多的时候看的头大,不是很直观
2. 使用torchinfo,torchinfo.summary(model,input_size[batch_size,channel,h,w)
pip install torchinfo
优点:更直观,而且还把你的输入在每一层的形状变化推理出来了,甚得朕心。
缺点:要啥自行车啊,挺好的了
二、CNN可视化
1. 卷积核可视化
cnn的参数是存在卷积核里的,直接查看卷积核参数有利于对现有模型的理解
import torch
import matplotlib.pyplot as plt
# 初始化一个训练过的模型
from torchvision.models import vgg11
model = vgg11(pretrained=True)
# 拿出一个卷积层
# dict(model.features.named_children()) tip:可以以字典的形式拿出模型中任意一层
conv1 = dict(model.features.named_children())['3']
kernel_set = conv1.weight.detach() # 把conv1这一层的参数单独拿出来,并保持这层参数不会发生变化
num = len(conv1.weight.detach())
print(kernel_set.shape)
# 把该卷积层的所有卷积核画出来
for i in range(0,num):
i_kernel = kernel_set[i]
plt.figure(figsize=(20, 17))
if (len(i_kernel)) > 1:
for idx, filer in enumerate(i_kernel):
plt.subplot(9, 9, idx+1)
plt.axis('off')
plt.imshow(filer[ :, :].detach(),cmap='bwr')
2. 特征图可视化方法
特征图是卷积后的结果,特征图的可视化可以非常直观的让我们了解到模型关注图像的哪个部分
2.1 利用hook类进行可视化
2.2 利用class activation map 进行可视化
pip install grad-cam
2.3 使用FlashTorch快速实现CNN可视化
pip install flashtorch
三、tensorboard 可视化
tensorboard 把集成了大部分训练所需的可视化需求,简单操作就可以快速查看模型参数,主要有下面几个功能
pip install tensorboardX
1. 模型结构可视化
2. 图像可视化
3. 连续变量可视化
4. 参数分布可视化
今天累了,特征图可视化的部分我会逐渐补充全面
=========== 参考
本文为学习讲义后的心得,讲义为datawhale提供
讲义地址:点击此处
感谢datawhale开源社区提供的丰富内容,又学会了很多技巧。