论文阅读：Style Normalization and Restitution for Generalizable Person Re-identification

动机及目标：解决域间较差泛化能力的关键是——过滤出身份无关的干扰+学习域不变的身份表示。 提出一个Style Normalization and Restitution(SNR)：

1. Style Normalization 风格统一化。利用Instance Normalization(IN)过滤掉风格变化。但由此带来的问题是，虽然增加了泛化能力，但是丢掉了身份相关特征信息。
2. Style Restitution 身份相关信息保留。从过滤到的特征中蒸馏出身份相关特征以保证较高的判别性。为达到这一目的，在SNR中加入 a dual causality loss。

具体做法
一、 Style Normalization
利用Instance Normalization 实例规则化解决。
补充Instance Normalization知识：

• IN 对一个批次中单个图片进行归一化，而不是像batch normaliztion一样对整个批次的所有图片进行归一化，提取出平均值等。
• 
  二、Style Restitution

利用a dual causality loss(双向因果损失)从剩余的特征中蒸馏出身份相关特征。
1.下图表示的是SNR模块的构造
（1）输入的特征F通过IN得到风格归一化后的特征。


（2） 输入的原始特征减去归一化特征，就得到剩余特征R。

（3）需要将R分解为身份相关特征R+和身份无关特征。

（4）为了进行分离，需要一个通道注意力图谱{[\alpha]}，以从中自适应蒸馏身份相关特征。为此，一个全局平均池化+两个FC：GAP + FC（16, Relu）+FC(Sigmoid)。

(5) 得到增强特征和削弱特征

（6）、dual causility loss
该损失的目的是使得增强后的特征比之前更具判别性，削弱后的特征判别性更差。
整个模型采用的是骨架是ResNet50，输入的是三元组（a, p, n)。


该公式使得：相同身份的图片对经过特征增强后距离更小，而不同身份图像对则距离增大。


该公式使得：相同身份的图片对经过特征削弱后距离更大，而不同身份图像对则距离更小。

（7） Joint Training

Lreid 是基于身份的三元组损失。

4个卷积块后面都有一个SNR，由于后面的SNR块更重要些，所以前两个SNR块的参数设置为0.1，后两个SNR参数设置为0.5。

Ablation Study

1. SNR有效性。
   Baseline: ResNet-50
   Baseline-A-IN：替换ResNet-50中所有的Batch Normalization 为Instance Normalization.
   Baseline-IBN: 只在Conv1和conv2 blocks 后面增加IN
   Baseline-A-SN: 替换所有的BN为 Switchable Normalization (SN)
   Baseline-IN: 前四个conv块后面增加IN层
   Baseline-SNR:本文的方法，前四个卷积块后加SNR。
   
2. SNR的选择
   （1）试试用1x1卷积分离身份相关和身份无关的特征
   
   （2）试试用两个非共享门
   
   
3. SNR 放到哪个位置比较合？
   SNR放到前四个conv模块后，分为4种情况。
   
4. the dual causility loss
   
   可视化