关于SAGAN

论文阅读笔记

论文题目：Self-Attention Generative Adversarial Networks

创新点：

1. 文章提出的SAGAN可以使用来自所有特征位置的线索来生成详细信息（传统的卷积遗传算法只根据低分辨率特征映射中的空间局部点来生成高分辨率的细节信息）。
2. 将谱归一化（spectral normalization）应用到GAN产生器，改善了训练动力（training dynamics）。

具体内容：

提出应用于GAN的自我注意机制：

前面隐藏层输出的图像特点被转换成f，g两个特征空间，用来计算注意度（attention）。 B j , i B_{j,i}