对抗数据训练

增加模型泛化性能的技术

扰动是微小的甚至是肉眼难以观测到的
添加的扰动必须有能力使得模型产生错误的输出

在文本处理中添加的扰动可以是离散的也可以是连续的,一般来说离散扰动指的是直接对输入文本字符进行微小修改,连续扰动一般指的是直接在输入文本中的词向量矩阵中添加的扰动
bad->bed

apple->abple

film->movie

连续扰动的代码实现:词向量矩阵的扰动

一.对类进行初始化,

1.对模型的初始化

2.对backup初始化

class FGM(obeject):
    def __init__(self,model):
        super(FGM,self).__init__()
        self.model = model
        self.backup= {}

二.定义attack(攻击)和restore(恢复)

def attack(self):

def restore(self):

attack的函数参数

def attack(self,epsilon=0.25,emb_name= '模型的某层')
  #epsilon 0.25或者一个比较小的数
  #emb_name传入模型的某层 对词向量做扰动 就是 emb_name = word_embeddings
  for names,param in self.model.named_parmameters():#列举出模型所有的参数名称
    if param.requires_grad and emb_name
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值