Gumbel-Softmax trick

Gumbel-Softmax 是一种可导采样技巧，它可以用来对离散分布进行重参数采样。与softmax区别是，gumbel-softmax得到得是样本（即采样,对于神经网络，离散输入常转化为one-hot形式，采样出来的样本是经soft后one-hot向量$[x_1,x_2,...,x_n]$），而softmax得到是样本得均值（即各分类概率,$[p_1,p_2,...,p_n]$）。
假设每个类别得概率是$p_1$, $p_2$,…,$p_k$, 那么下述过程提供了一种依概率采样类别的方案，称为Gumbel Max:
arg max ⁡ i [ l o g p 1 − l o g ( − l o g ϵ 1 ) ,   l o g p 2 − l o g ( − l o g ϵ 2 ) ,   . . . ,   l o g p k − l o g ( − l o g ϵ k ) ] ,