paper下载地址:https://arxiv.org/abs/1703.05693
code下载地址:https://github.com/syfafterzy/SVDNet-for-Pedestrian-Retrieval
网络结构
作者所采用的基础网络为resnet-50,在最后一个全连接层的前面加了一个Eigenlayer,其实就是一个全连接层,只不过对参数做了SVD分解,因此称为SVDNet。
对全连接层做SVD分解的原因是:全连接层是以向量内积形式进行特征的相似性度量或者说分类,全连接层的权重之间存在相关性的,学出来的特征也是有相关性的,而在Person Re-ID的普遍测试中是以欧式距离进行相似性度量的,因此存在一定的误差。
训练过程
step0:用加了全连接层的resnet-50在之前训好的resnet-50上进行fine-tune直至收敛。
Restraint and Relaxation Iteration (RRI):
- 去相关:将新加的全连接层的权重进行SVD分解
W=US
- 去相关:将新加的全连接层的权重进行SVD分解