基于基因算法的黑箱query
随机采样,依据embedding选择替换词集,利用counter-fitting过滤一些非近义词,再利用LM过滤句意改变较大的词。最后选择对结果影响最大的替换。
缺点:
黑箱的普遍缺点:多次query、下游依赖、攻击效果差。没有判断词性、语法正确性。
模型retrain的效果非常不好。
self:
短文本攻击任务更加困难
基于基因算法的黑箱query
随机采样,依据embedding选择替换词集,利用counter-fitting过滤一些非近义词,再利用LM过滤句意改变较大的词。最后选择对结果影响最大的替换。
缺点:
黑箱的普遍缺点:多次query、下游依赖、攻击效果差。没有判断词性、语法正确性。
模型retrain的效果非常不好。
self:
短文本攻击任务更加困难