Hidden Voice Attack | Adversarial Attack on Audio

最新推荐文章于 2024-05-13 21:50:26 发布
最新推荐文章于 2024-05-13 21:50:26 发布
阅读量499 收藏
点赞数
分类专栏： 机器学习 文章标签： 机器学习 语音识别 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_48996375/article/details/107291700
版权
本文探讨了针对音频的对抗性攻击，特别是隐藏语音攻击。这种攻击可以在音频变得难以被人耳识别的情况下，仍能使模型正确识别。文章介绍了对ASR（自动语音识别）和ASV（自动说话人验证）的攻击，以及隐藏语音攻击的实现过程，包括信号预处理、模型推断等步骤，并列举了四种添加扰动的方式：时间域反转、随机相位生成、高频添加和时间缩放。
摘要由CSDN通过智能技术生成

Adversarial Attack on Audio

前言
之前自己学习的方向主要是针对图像的对抗攻击，今天学习了一个关于于###音频的attack。

Attacks on ASR

在这里插入图片描述
ASR(Auto speech Recognition)即自动语音识别，将你说的话放到model里会识别出话对应的文字。如何攻击这个model？可以将这一段音频想象成一个一维的图片，对这一维做fgsm攻击算出perturbations，然后加在原始的音频上，会导致识别音频识别错误。

Attacks on ASV

在这里插入图片描述
ASR（Auto speaker verification),做的是可以根据你input的音频判别出是哪一个speaker所讲的话，我们可以用类似上边的方法去产生perturbations去加在你的音频上，去误导model的识别结果。

Hidden Voice Attack

最低0.47元/天 解锁文章
社会青年技术官
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【李宏毅2020 ML/DL】P43-44 More about Adversarial Attack | Images & Audio
记录学习痕迹的公众号：Piper蛋窝
07-31 651
关于图片与声音的攻击。
论文分享（三）——加权采样音频对抗样本攻击
xunbaobao123的博客
11-20 4067
论文链接：https://arxiv.org/abs/1901.10300 一.介绍 文章提出了加权音频对抗样本的概念，着重于样本失真的数量及权重来加强攻击。此外，在损失函数中应用了降噪方法，以使对抗性攻击更加难以察觉。 音频对抗样本已经被证明可以很好的扰乱ASR（Automatic speech recognition）系统，使任何输入的音频翻译为目标句子。然而生成音频对抗样本的过程要比图像对抗...
翻译：Practical Hidden Voice Attacks against Speech and Speaker Recognition Systems
缘来如此
06-13 1333
原文链接：https://arxiv.org/pdf/1904.05734.pdf 是NDSS-2019 accepted paper 初次接触语音攻击方面的文章，翻译不当的地方，望大家指正。 对语音和说话人识别系统的实用隐藏语音攻击 摘要——目前已广泛部署的语音处理系统(VPS)，通过应用机器学习方面的最新进展，已大大提高了准确度。然...
Characterizing audio adversarial examples using temporal dependency.docx
05-02
翻译文献
对语言模型的通用声学攻击
最新发布
声纹感知 洞察芯声
05-13 999
对语言模型的通用声学攻击主要涉及到通过生成对抗性扰动来干扰或欺骗语音识别系统。这种攻击可以通过多种方式实现，包括但不限于基于深度学习的方法和特定的攻击策略。
如何在屏蔽外部按键的游戏中输入按键消息
startl的博客
02-12 939
有些游戏是屏蔽按键消息的，所以很多录屏脚本软件，包括AutoIt，就不好使了。 这些游戏应该是用了DirecxInput检测按键，对于外部的按键消息不会反应。 研究发现VoiceAttack采用了一个DirectInput组件，这就是它能好使的原因了。 废话不多说了，上图，这个软件其实初衷是语音控制，不过中文很不好使，倒是热键功能挺好用，能录制脚本。 有空加到自己的软件Kingtime/zTasker里，这样就不用另开这种第三方软件了。 ...
A Survey On Universal Adversarial Attack.pdf
09-25
通用对抗攻击（Universal Adversarial Attack，UAP）是一种特殊的对抗攻击，它可以对大多数图像进行攻击，具有很高的攻击成功率。近年来，UAP已经在计算机视觉和机器学习领域引起了广泛的关注。 深度神经网络（Deep...
A Survey On Universal Adversarial Attack.zip
09-23
通用对抗性攻击（Universal Adversarial Perturbations, UAPs）是其中的一种特殊形式，它关注的是生成一种可以对大量图像产生误导效果的全局扰动，而不仅仅针对单个图像。 这篇综述文章可能涵盖了以下几个主要知识...
Adversarial Attack and Defense on Graph Data - A Survey
02-05
针对图数据的对抗攻击和防御技术综述.we aim to survey existing adversarial attack strategies on graph data and provide an unified problem formulation which can cover all current adversarial learning ...
Adversarial-Attack
05-08
对抗攻击 PoC通过针对CNN（卷积神经网络）模型的对抗性攻击来推导识别域中的错误 作者：郑德贤 状态：完成 核心目标 使用CNN模型中的先前学习的数据（ 이미지넷 ）构建图像...# Adversarial Attack > python hack.py
DPATCH: An Adversarial Patch Attack on Object Detectors论文笔记
02-06
DAPTCH的论文阅读笔记
Rethinking the trigger of backdoor attack
weixin_48654804的博客
09-06 499
Rethinking the trigger of backdoor attack https://arxiv.org/abs/2004.04692 本文是关于后门攻击的论文。本文指出目前的大多数后门攻击的触发集都是属于静态触发集(static trigger)，也就是说触发集在训练过程和测试过程的appearance和located都是相同的，也就是指，触发模式都是相同的。 这说明一个问题，触发集的鲁棒性会比正常样本差很多。 可以这样理解，训练过程中样本的数量会很大程度上影响训练的效果。后门样本只有一个形
深度学习(9): Attack ML models & Adversarial attack
JJJJJJames的博客
01-18 579
Attack and Defense 需要classifiers 不只要对噪声的抗干扰性强，还要对那些为了骗过classifier而建立的输入也有很强的抗性。 especially useful for spam classification, malware(恶意软件) detection, network intrusion（网络入侵） detection, etc 1、Attack 1.1 what do we want to do？ 在图片的样本点上加入一些杂讯△x\triangle x△x，原
机器学习之九（读书笔记）
L_cherry_的博客
09-13 356
Attack ML Models 十五、Attack and Defense Attack 1、什么是攻击   想做什么样的攻击？   举例：现有一个影响侦测的模型，原本它的功能是输入一张图片，它就能告诉你这张图片里面是什么样的东西：   我们现在做这样的事情：把图片上加上一些杂讯，这些杂讯不是随机生成的杂讯，加上这些杂讯就能得到稍微有点不一样的图片，把这个稍微有点不一样的图片丢到network里面，network就能得到非常不一样的结果：    2、Loss Function for Attack.
李宏毅机器学习笔记(十九)——对ML模型的攻击和防御
Unique13的博客
09-01 941
文章目录一.背景二.对模型进行攻击1.基本思想2.相似度限制3.训练参数   前言：老师课上举的例子都与图像相关，其实其他领域也是同理的。 一.背景   神经网络不仅是要用在研究上，最后更多的肯定要在各种有意义的应用中。那么安全性就显得尤为重要，要去对抗恶意攻击(注意，这里不是说仅仅是对抗杂讯，而是所谓的，不暴露出弱点)。即使是垃圾邮件识别，人脸识别这种最基础广泛的领域，也存在着大量的攻击对抗。因此，对这方面的研究是十分重要的。 二.对模型进行攻击 1.基本思想   既然是恶意攻击，首先我们还是要保证，我们
音频处理入门笔记
imyfriend的专栏
09-22 8233
ES: Echo Suppresion  EES: Enhanced Echo Suppresion AEC: Acoustic Echo Cancellation 声学回声消除。在一般的VOIP软件或视频会议系统中，假设我们只有A和B两个人在通话，首先，A的声音传给B，B然后用喇叭放出来，而这时B的MIC呢则会采集到喇叭放出来的声音，然后传回给A，如果这个传输的过程中时延足够大，A就会听
论文理解——Audio Adversarial Examples:Targeted Attacks on Speech-to-Text
qq_42372980的博客
05-06 3321
0-Abstract 本文构建了有关语音识别的定向语音对抗样本，给定任意音频波形，可以产生99.9%相似的另一个音频波形，且可以转录为所选择的任何短语。作者将基于白盒迭代优化攻击应用于DeepSpeech模型（端到端语音识别），实验显示，它具有100%的成功率。 1-Introduction 1.1Existing work 当前对对抗样本的研究大多基于图像空间，包括图像分类、图像生成模型...
JSOI2016 炸弹攻击Attack
Aqua blue
07-24 962
炸弹攻击 【故事背景】 JYY 最近迷上了一款塔防游戏,在游戏里 JYY 除了建设建筑,还可以使用 炸弹对屏幕上的敌人进行范围杀伤。 【问题描述】 游戏地图可以简单认为是一个 2 维平面。 JYY 建造了 N 个建筑,每个建筑都是一个圆,其中第 i 个建筑的圆心位于 (x ” , y ” )且半径为r ” 。 地图上一共有 M 个敌人,一个敌人可以近似看成一个平面上的点,其中
语音攻击论文整理
咕噜咕噜
10-13 1879
语音攻击的思路就是播放语音攻击命令。 攻击方法： CommanderSong: A Systematic Approach for Practical Adversarial VoiceRecognition：在歌曲中加入语音命令，通过播放歌曲实施攻击 DolphinAttack: Inaudible Voice Commands：超声波音频上带有语音命令，通过设...
nips17-adversarial-attack代码运行环境
04-04
nips17-adversarial-attack代码的运行环境需要具备以下条件： 1. Python 3.5或更高版本； 2. PyTorch 0.4或更高版本； 3. NumPy和SciPy库； 4. CUDA（如果使用GPU进行计算）。 建议在Linux或macOS操作系统下运行代码。在Windows系统上运行时可能会遇到一些问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值