Virtual Adversarial Training文章解读+算法流程+核心代码详解

Virtual Adversarial Training

本博客仅做算法流程疏导，具体细节请参见原文

原文

查看原文请点这里

Github代码

Github代码请点这里

解读

对比Adversarial Training和VAT

VAT(Virtual Adversarial Training)和adversarial training类似。对原始训练样本添加一个比较小的扰动，会大概率使分类器分类出现错误，而我们一般希望分类器将原始样本和添加一个较小扰动的样本（加噪版本）分为同一类别，所以将扰动版本的数据也作为训练样本添加进训练，这样就增加了分类器的泛化能力。

传统的adversarial training 的扰动方向一般通过损失函数确定，即取损失函数上升的方向添加一个扰动。无标记样本没有标签，就无法算损失函数，故传统方法不适用，所以一般的adversarial training仅在监督学习中使用较多，而virtual adversarial training的创新在于能在无标记样本上实现扰动的计算，因为没用使用标签进行运算，而是用模型预测的结果替代标签，类似于persudo label，这就是virtual的含义

Adversarial Training

adversarial training的数学表达如下，其中样本及标记$(x,y)$，当前epoch模型的参数$\theta$:
损失函数：$J(\theta )=\frac{1}{N}{\sum }_{i=1}^{N}L(x,\theta )$
其中，单项损失计算表达式为：$L(x,\theta )=D(y,p(y|x+r,\theta ))$
扰动方向：$r=argma{x}_{|r|<\xi }D(y,p(y|x+r,\theta ))$

简单叙述为：找到一个扰动$r$​，且$r$​的大小受限，即$|r|<\xi$​，使其损失函数$L(x,\theta )=D(y,p(y|x+r,\theta ))$​​取最大值​，即在此$r$​下上升最多。

VAT

同样形式的，virtual adversarial training 的数学表达式如下，其中其中样本及标记$(x,y)$，当前epoch模型的参数$\theta$，前一个epoch的模型参数为$\hat{\theta }$：
损失函数同上形式：$J(\theta )=\frac{1}{N}{\sum }_{i=1}^{N}L(x,\theta )$​
单项损失表达式不同(LDS称为局部平滑度)：$L(x,\theta )=D(p(y|x,\hat{\theta }),p(y|x+r,\theta ))=LDS(x,\theta )$​
扰动方向：$r=argma{x}_{|r|<\xi }D(p(y|x,\theta ),p(y|x+r,\theta ))$
​
简单叙述为：找到一个扰动$r$​，且$r$​​的大小受限，​即$|r|<\xi$​​，使其损失函数$LDS(x,\theta )$​取的最大值，即在此$r$​下上升最多。

代码详解

代码核心就一个VAT_Loss的计算。整个框架的Loss=Classfier_Loss + VAT_Loss。其中Classfier_Loss损失函数为一般的监督网络的损失函数。VAT_Loss计算如下：

def vat_loss(model, ul_x, ul_y, xi=1e-6, eps=2.5, num_iters=1):
    # find r_adv
    d = torch.Tensor(ul_x.size()).normal_()
    for i in range(num_iters):
        d = xi *_l2_normalize(d)
        d = Variable(d.cuda(), requires_grad=True)
        y_hat = model(ul_x + d)
        delta_kl = kl_div_with_logit(ul_y.detach(), y_hat)
        delta_kl.backward()
        d = d.clone().cpu()
        model.zero_grad()
    d = _l2_normalize(d)
    d = Variable(d.cuda())
    r_adv = eps * d
    # compute lds
    y_hat = model(ul_x + r_adv.detach())
    delta_kl = kl_div_with_logit(ul_y.detach(), y_hat)
    return delta_kl

其中对r_adv的计算采用的是一种快速计算方法。具体理论请查阅原文

v_loss = vat_loss(model, inputs_All, logits_All, eps=args.epsilon)
loss = v_loss+ce_loss
optimizer.zero_grad()
loss.backward()
optimizer.step()

完整损失函数Loss=Classfier_Loss + VAT_Loss反向梯度传播更新网络即可。