TextBugger

最新推荐文章于 2024-01-18 16:27:54 发布
最新推荐文章于 2024-01-18 16:27:54 发布
阅读量809 收藏 2
点赞数 1
分类专栏： NLP文本对抗
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41726183/article/details/109997342
版权

NLP对抗文本攻击（2）—— TextBugger

文章目录

文献来源

[1] 李进锋. 面向自然语言处理系统的对抗攻击与防御研究[D].浙江大学,2020.
[2] Jinfeng Li, Shouling Ji, Tianyu Du, Bo Li, Ting Wang. TextBugger: Generating Adversar-
ial Text Against Real-world Applications[C]//Proceedings of the 26th Annual Network and
Distributed Systems Security Symposium

模型流程

在这里插入图片描述

五种扰动方式

  1. insert：在一个词中插入空格
  2. swap：交换相邻的两个字母
  3. delete：删除一些字母
  4. sub-word：k近邻词替换，同义替换
  5. sub-character：替换字符，如（a-@,l-1,o-0）

白盒攻击算法

在这里插入图片描述

词的重要性计算

在这里插入图片描述
在这里插入图片描述

小结

白盒攻击小结:通过计算梯度，找出重要词，依次对重要词进行5种扰动，选择置信度变化最大的替换。

————————————————————————————————————

黑盒攻击算法

在这里插入图片描述

先找重要句子

在这里插入图片描述

对重要句子找重要词

在这里插入图片描述

然后如白盒攻击

如上

效果

在这里插入图片描述

说明

白盒攻击的nlp算法为CNN与LSTM

流水不争先_争的是滔滔不绝
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
什么是nlp中的对抗示例
weixin_26704853的博客
08-19 1150
This article talks about the concept of adversarial examples as applied to NLP (natural language processing). The terminology can be confusing at times, so we’ll begin with an overview of the language...
《TEXTBUGGER: Generating Adversarial Text Against Real-world Applications》论文笔记
weixin_43646592的博客
11-07 2468
论文来源：NDSS-2019 主要内容： 近年来，基于深度学习的文本理解（DLTU）技术已经被应用到了很多场景，如机器翻译、问答系统、文本分类等。尽管这些DLTU技术的应用场景很广，效果很好，但是它背后的安全性却是未知的。且这类技术越来越多地应用到一些security-sensitive的场景，如情感分析，有害内容检测等，这是令人担忧的一件事。 论文提出了一个用于生成对抗文本的通用对抗框架（TEXTBUGGER），实验验证了DLTU易于受到对抗文本攻击而预测错误的结果。相比之前的工作，TEXTBUGGER的
论文阅读- 人工智能安全 TEXTBUGGER: Generating Adversarial Text Against Real-world Applications（2018）
Che_Che_的博客
01-18 1124
(4) substitution - c (SubC):用视觉上相似的字符替换(例如，用‘0 ‘替换‘o ‘，用‘1‘替换‘l ‘，用‘@ ‘替换‘a ‘)或键盘上相邻的字符(例如，用‘n‘替换‘m ‘)。文本领域的对抗攻击会更加复杂，在文本领域，微小的扰动通常是清晰可见的，替换单个单词可能会彻底改变句子的语义。·下面的白盒和黑盒攻击最大的不同是因为黑盒攻击，我们无法得知分类器的内部结构，在计算单词重要性的时候，在不知道分类模型参数和结构，我们要克服这个困难，所以在白盒的算法上我们的黑盒算法做了变化。
文本分类对抗样本生成
北歌的博客
03-03 2151
本文复现一个基于文本的白盒算法，基于论文《TEXTBUGGER: Generating Adversarial Text AgainstReal-world Applications》 先上最终效果 No-3srcSentence:the protector you hear the name you think ah its a crappy hong kong movie guess w...
文本攻击方法开源代码汇总
qq_45193988的博客
07-20 654
NLP攻击方法（开源算法）
实战文本分类对抗攻击
谢彦的技术博客
03-15 3774
文章写得比较长，先列出大纲，以便读者直取重点。 “文本分类对抗攻击”是清华大学和阿里安全2020年2月举办的一场AI比赛，从开榜到比赛结束20天左右，内容是主办方在线提供1000条辱骂样本，参赛者用算法逐条扰动，使线上模型将其判别为非辱骂样本，尽量让扰动较小同时又保留辱骂性质（辱骂性质前期由模型判定，最终由人工判定）。 比赛规则 线上模型和评测使用的1000条样本不公开，选手根据赛方指定...
TextBugger应用程序对抗性文本生成技术.pptx
10-18
TextBugger应用程序对抗性文本生成技术.pptx
TextBugger应用程序对抗性文本生成技术.pdf
10-18
TextBugger应用程序对抗性文本生成技术.pdf
针对现实应用的文本对抗攻击研究.pdf
08-10
Preliminaries TextBugger Attack Evaluation
论文阅读 | Towards a Robust Deep Neural Network in Text Domain A Survey
weixin_30352645的博客
08-05 5897
摘要 这篇文章主要总结文本中的对抗样本，包括器中的攻击方法和防御方法，比较它们的优缺点。 最后给出这个领域的挑战和发展方向。 1 介绍 对抗样本有两个核心：一是扰动足够小；二是可以成功欺骗网络。 所有DNNs-based的系统都有受到对抗攻击的潜在可能。 很多NLP任务使用了DNN模型，例如：文本分类，情感分析，问答系统，等等。 以上是一个对抗攻击实例...
CRNN原理详解、代码实现及BUG分析
Tianlong Lee的博客
07-06 1万+
CRNN原理及实现 原文链接：An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition 近期了解了一下文本识别，在CRNN的学习过程，包括CRNN原理、CTC Loss、代码实现、bug调试等问题也进行了一些调研，将自己的一些看法尽可能简洁地总结记录下来，如有错误，欢迎指出。 CRNN使用CNN提取图像特征，RNN进行序列
聊聊置信度与置信区间
张俊红的个人博客
04-15 1万+
总第143篇/张俊红今天这篇聊聊统计学里面的置信度和置信区间，好像没怎写过统计学的东西，这篇试着写一写。1.点估计在讲置信度和置信区间之前先讲讲点估计，那什么是点估计呢？...
[论文阅读] (04) 人工智能真的安全吗？浙大团队外滩大会分享AI对抗样本技术
热门推荐
杨秀璋的专栏
10-18 7万+
AI技术蓬勃发展，无论是金融服务、线下生活、还是医疗健康都有AI的影子，那保护好这些AI系统的安全是非常必要也是非常重要的。目前，AI安全是一个非常新的领域，是学界、业界都共同关注的热门话题，本论坛将邀请AI安全方面的专家，分享交流智能时代的功守道，推动和引领业界在AI安全领域的发展。《秀璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座，并分享给大家，希望您喜欢。
NLP对抗文本攻击分类
qq_41726183的博客
11-23 2095
白盒攻击 基于梯度的攻击 黑盒攻击 基于置信度，迁移性，模型决策的攻击 基于梯度的攻击：效率高，但是假设太强，在现实中不实用，无法保证对抗样本的质量，可用性差。 基于置信度的攻击：寻找对分类影响高的点，依次添加扰动，Gao等人提出的DeepWordBug模型中，以下式计算每个词的重要性： 缺点：长文本计算THS和TTS耗时长；随机扰动导致可读性差 基于迁移性攻击：该攻击方法首先基于与目标攻击模型的训练数据同分布的数据训练一个源文本分类模型。然后，利用 HotFlip白盒攻击方法针对源文本分类模型生成对抗
电脑温度检测软件， 夏天的时候可以用用，不用安装那么多的臃肿软件
06-16
电脑温度检测软件， 夏天的时候可以用用，不用安装那么多的臃肿软件
基于SpringBoot的旅游网站的设计与实现
06-16
本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性、便于后期维护、操作方便以及页面简洁等特点。本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性、便于后期维护、操作方便以及页面简洁等特点。本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性、便于后期维护、操作方便以及页面简洁等特点。本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性、便于后期维护、操作方便以及页面简洁等特点。本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性、便于后期维护、操作方便以及页面简洁等特点。本旅游网站系统采用的数据库是MYSQL，使用JSP技术开发，在设计过程中，充分保证了系统代码的良好可读性、实用性、易扩展性、通用性
BTT0.mdl.z..._lan.zip
06-16
BTT0.mdl.z..._lan
C#调用adb传输和推送数据到安卓设备上.zip
最新发布
06-16
C#调用adb传输和推送数据到安卓设备上
c++的游戏必备函数，外加个做迷宫，合成一个头文件
06-16
有
file_16847..._lan.zip
06-16
file_16847..._lan.zip

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值