Perceptual Loss

出自2016年李飞飞团队的Perceptual Losses for Real-Time Style Transfer and Super-Resolution
目标是加速图片转换的速度，因为当时的图片转换都是通过不断地迭代来让生成的图片不断往目标图片靠近，但这太慢了，所以这篇文章就提出了一个end to end的方法。

System overview

分为两个部分，一个是image transform net, 就是简单的把原始图片转换为目标图片的网络，没有额外的输出。
第二个是loss network，这里使用了pretrained的vgg16，并使用了四个loss对vgg16的中间特征进行约束。
需要注意的是vgg16是不训练的，只是提供了向前的传播和向后的梯度。
1.style loss
作者认为所谓style应该是有位置不变性的，因此他对每层每个数据点的特征做了点乘，然后对每层的点乘结果求和，得到位置不敏感的特征，然后将得到的生成图片的特征和gt的特征计算l2损失
2.content loss
也是抽取每层特征，不过这次不点乘也不求和，就直接计算两个图特征之间的l2 loss
3.pixel loss
直接计算两个图片的像素差值
3.total variation loss
也即计算相邻像素之间的差值，用于提高图片平滑度