1.backbone部分
2.neck部分
3.head部分
backbone结构说明
yolo4中的backbone使用了csp结构。所谓的csp结构,目的就是进一步的特征融合。在进入csp之前保存一次特征图A,在csp内部添加残差单元进行特征融合,融合以后输出的特征图与之前保存的特征图A进行一次concat。每一个csp结构前后搭配CBM模块,形成CBM/CSP/CBM的block形式,其中CBM即conv,BN,mish(yolo新定义的激活函数),第一个CBM的作用是对进入csp的特征图进行downsample操作,相当于一次池化,最后一个CBM为1x1卷积。backbone总体结构以及csp分解如下:
backbone部分就是对CBM与csp的堆叠,总体组成为:input --> CBM --> CBM_1/CSP_1/CBM_2 --> CBM_1/CSP_2/CBM_2 --> CBM_1/CSP_8/CBM_2 --> CBM_1/CSP_8/CBM_2 -->CBM_1/CSP_4/CBM_2 -->
注意:
1.CSP_N,表示CSP结构中含有N个残差块
2.第三个block以后的输出特征图要送到neck部分作处理,即第三个csp_block以后的特征图一个方向是送入下一个csp_block,一个方向是送到neck部分作处理.
以下为实现代码以及详细解析:
import torch
import torch.nn.functional as F
import torch.nn as nn
import math
from collections import OrderedDict
import numpy as np
#加载预训练权重
def load_model_pth(model, pth):
print('Loading weights into state dict, name: %s'%(pth))
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model_dict = model.state_dict()
pretrained_dict = torch.load(pth, map_location=device)
matched_dict = {
}
for k,v in pretrained_dict.items():
if np.shape(model_dict[k]) == np.shape(v):
matched_dict[k] = v
else:
print('un matched layers: %s'%k)
# for key in matched_dict:
# print('pretrained items:', key)
print(len(model_dict.keys()), len(pretrained_dict.keys()))
print('%d layers matched, %d layers miss'%(len(matched_dict.keys()), len(model_dict)-len(matched_dict.keys())))
model_dict.update(matched_dict)
model.load_state_dict(model_dict)
print('Finished!')
return model
#-------------------------------------------------#
# MISH激活函数
#-------------------------------------------------#
class Mish(nn.Module):
def __init__(self):
super(Mish, self).__init__()
def forward(self, x):
return x * torch.tanh(F.softplus(x))
#-------------------------------------------------#
# 卷积块CBM
# CONV+BATCHNORM+MISH
#-------------------------------------------------#
class BasicConv(nn.Module):
def __init__(self, in_channels, out_channels, kernel_size, stride=1):
super(BasicConv, self).__init__()
self.conv = nn.Conv2d(in_channels, out_channels, kernel_size, stride, kernel_size//2, bias