- 博客(20)
- 收藏
- 关注
RSS订阅翻译 《Don’t Trigger Me! A Triggerless Backdoor Attack Against Deep Neural Networks》论文阅读
摘要 由于其严重的安全后果，针对深度神经网络的后门攻击目前正在被深入研究。目前最先进的后门攻击要求对手修改输入，通常是在输入中添加一个触发器，以使目标模型激活后门。这种添加的触发器不仅增加了在物理世界中发动后门攻击的难度，而且很容易被多种防御机制发现。在本文中，我们提出了第一个针对深度神经网络的无触发后门攻击，即对手不需要修改输入来触发后门。我们的攻击是基于dropout技术的。具体来说，我们将一组在模型训练中被剔除的目标神经元与目标标签联系起来。在预测阶段，当目标神经元再次被丢弃时，模型将输出目标标签，即
2022-06-03 16:28:40
450
原创 visual studio 2022安装报错未能安装包“Microsoft.VisualStudio.Debugger.JustInTime.Msi,version=17.1.32112.364,ch
问题：未能安装包“Microsoft.VisualStudio.Debugger.JustInTime.Msi,version=17.1.32112.364,chip=x64”。搜索 URLhttps://aka.ms/VSSetupErrorReports?q=PackageId=Microsoft.VisualStudio.Debugger.JustInTime.Msi;PackageAction=Install;ReturnCode=1316详细信息MSI: C:\ProgramData\M
2022-03-01 20:01:53
6937
1
翻译 SentiNet总结
作者篇名期刊或会议时间页码Edward Chou， Florian Tramèr， Giancarlo Pellegrino， Dan BonehSentiNet:Detecting Physical Attacks Against Deep Learning Systems预发表…创新与方案提出了SentiNet框架，是一个与攻击无关的，可用于防御物理攻击上的对抗性攻击、后门触发器攻击和神经特洛伊木马攻击的框架。图2. SentiNet架构的概述。大体的过程...
2021-10-01 17:06:15
1247
翻译 《Interpretability-Guided Defense against Backdoor Attacks to Deep Neural Networks》阅读总结
作者篇名期刊时间页码Wei Jiang, Xiangyu Wen, Jinyu Zhan, Xupeng Wang, Ziwei SongInterpretability-Guided Defense against Backdoor Attacks to Deep Neural NetworksIEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems2021。。。创新与...
2021-09-24 19:07:42
199
翻译 Towards Automatic Concept-based Explanations
作者篇名会议时间页码Amirata Ghorbani, James Wexler,James Zou, Been KimTowards Automatic Concept-based ExplanationsNeural Information Processing Systems(NurlPS)20199273-9282创新及方案自动概念提取基于概念的自动解释步骤是将一个训练有素的分类器和一个类别的图像集作为输入。然后，它提取该类中存在的概念并返回每个概念的重要...
2021-09-17 20:19:15
436
翻译 两周阅读总结
关于「模型微调（Fine-tune)」什么是模型微调（fine-tune）？为什么需要微调？什么情况下使用微调？什么是「模型微调」？就是在预训练的模型上，重新训练预训练模型的顶层，得到适用于新数据集级的模型权重。相对于从头开始训练，微调可以省去大量计算资源和计算时间。为什么需要「微调」？卷积神经网络的核心是：浅层卷积层提取基础特征，比如边缘，轮廓灯基础特征。深层卷积层提取抽象特征，比如整个脸型。全连接层根据特征组合进行评分分类。在已经训练好的预训练模型中，已经具备了提取浅层基础
2021-09-10 19:32:38
255
翻译 神经注意力蒸馏NAD
作者篇名会议时间页码Yige Li Xixiang Lyu Nodens Koren Lingjuan Lyu Bo Li Xingjun MaNeural Attention Distillation: Erasing Backdoor Triggers from Deep Neural NetworksICLR：International Conference on Learning Representations2021/2/2619创新与方案提出了一种新的后...
2021-07-30 19:44:38
1485
翻译 《Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning》论文总结
论文贡献提出了一种新的深度学习系统攻击类型——后门攻击，这种后门攻击可以通过数据投毒来实现。证明在现实的威胁模型下，后门投毒攻击是可行的，且该模型假设对手对模型和训练集一无所知，且只有少量投毒样本可以注入训练数据集中。提出了两类后门投毒攻击——输入-实例-钥匙（input-instance-key）攻击和模式-钥匙（pattern-key）攻击。两者都可以实现目标攻击，特别是输入-实例-密钥攻击创造了一组与一个单一输入实例相似的后门实例；另一方面，模式-钥匙攻击创造了一组共享相同模式的后门
2021-07-10 21:54:24
2027
2
翻译 用于针对DNN中后门攻击的蒸馏对策和中毒数据的去除
用于针对DNN中后门攻击的蒸馏对策和中毒数据的去除之前的工作现有的防御大多利用后门模型在输入后门数据和正常数据时DNN内部神经元活性分布的不同。[刘, 2018]通过对干净样本输入时神经活性低的神经元进行微调，来除去对后门图像有反应的神经元。[陈， 2018] 通过对输入给定教师标签的训练图像时中间层的活性进行聚类确定了训练数据集中混入的中毒数据。[吉田，2020] 提出了一个不是确定后门图像，而是去除后门语义的方法。在这个方法中利用了DNN模型蒸馏[Hinton, 2015]。即通过
2021-07-03 20:27:13
862
3
翻译 《Interpret Neural Networks by Identifying Critical Data Routing Paths》CDRPs总结
论文工作通过分析所提出的蒸馏导向路由（distillation guided routing（DGR））方法来解释神经网络；提出了一个直接的编码方案来表示关键数据路由路径（CDRPs），它可以在网络推断预测过程中显示更详细的功能过程，并且对这种新的表示方法进行了分析，结果显示在路由路径上各节点之间普遍存在着一致和可解释的语义概念；将CDRPs表示法应用于对抗样本检测，提出的表示法不仅能以较小的训练成本有效地检测出对抗性图像，而且还揭示了模型的失败主要是由对抗性图像和真实图像之间的CDRPs
2021-06-26 19:42:58
318
原创 BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain阅读总结
论文工作证明了后门触发器攻击的实用性，使用两个具体案例研究——MINIST手写数字识别和交通标志检测任务；探索了迁移学习场景下后门攻击的有效性，以美国交通标志分类器重新训练以识别瑞典交通标志为案例研究；调研了神经网络模型在线存储库存在的安全问题。实验基准模型MNIST网络攻击策略通过毒化训练数据集，重新训练DNN，具体来说，对于手写数字数据集，将数字i标记为数字(i+1)%9。 图1. (a)一张被标后门MNIST图像，(b)BadNe
2021-06-18 17:56:24
1427
原创 Backdoor Learning: A Survey论文总结
目录1 论文工作2 后门攻击的统一框架3 基于投毒攻击的分类3.1 图像和视频识别的攻击3.2 总结4 基于非投毒的后门攻击5 后门防御6 未来方向展望7 结论论文工作提出一个统一框架分析基于投毒的攻击对现有攻击和防御进行总结和分类概述了一些未来的研究方向后门攻击的统一框架定义1（标
2021-06-12 21:43:54
552
3
翻译 后门触发器攻击的再思考论文（Rethinking the trigger of backdoor attack）总结
目录1 论文工作2 之前的工作2.1 后门攻击2.2 后门防御3 静态触发器现有攻击的属性3.1 静态触发器后门攻击的步骤3.2 后门触发器的两个特征4 后门防御和增强攻击4.1 通过变换进行后门防御4.2 以变换为基础的增强攻击4.3 物理攻击5 &nbs
2021-06-04 20:32:33
4125
2
翻译 卷积神经网络入门
深度学习项目的步骤或者过程：准备数据提取——从数据源获取Fashion-MNIST图像数据；转换——把数据转换成张量的形式；加载——把我们的数据放入一个对象，使它容易访问。构建模型创建一个扩展nn.Module基类神经网络类；在类构造函数中，使用torch.nn中的预构建层网络的图定义为类属性；使用网络的层属性以及nn.functional API中的操作来定义网络的向前传播；了解如何批处理传递到网络——9；了解正向传播发生的转换——10；训练模型计
2021-04-30 23:02:42
516
1
原创 劫持
下载DetoursDetours是微软官方发布的一个函数库，可用于捕获系统API函数。GitHub下载地址：Github源码地址编译源码下载解压以后，得到Detours-master文件夹，打开vs的开发人员控制台命令行在管理员模式下的命令行里转到Detours-master/sc所在的文件夹下，比如我的是在cd C:\Program Files (x86)\Microsoft Visual Studio 14.0\Detours-master\src下，然后输入nmake执行编译，如图所示：
2020-05-30 21:59:19
253
原创 动态链接库和静态库
库的定义将需要重复使用的代码，集成在一起，编译成.lib文件就叫做库，库可以分为动态库和静态库。在c语言中，编写库文件时，一般包含.h文件和.cpp文件，.h文件中包含了函数和数据结构的声明，.cpp文件中包含了函数的实现。动态链接库和静态库的区别动态库：需要伴随.lib文件，运行时需要调用库函数时，需要在.lib文件里查找并调用。静态库：在编译时，将需要库函数的代码复制到调用的地方。库的使用1.在vs2019中新建一个空项目，命名为lib2.在项目属性中设置配置类型为静态库3.编好头
2020-05-28 00:24:54
188
原创 c内存四大分区
全局变量与静态区全局变量只能定义一次，可以多次声明，定义=声明+初始化；全局变量可以跨文件使用；静态区与程序共存亡；栈区的内存反复回收和释放；静态局部变量与程序共存亡，在编译时初始化；静态局部变量可以防止污染（二次更改）；静态全局变量限定本C文件访问；内存分区：代码区、栈区、堆区、静态区代码区：存储程序段，比如函数；栈区：存储函数的返回地址、函数的参数、变量等；堆区：存储数组、malloc申请的内存；静态区：存储全局变量和局部变量；...
2020-05-26 17:30:24
206
原创 C多线程的简单使用
多线程的使用在c中，头文件process.h包含了一系列线程操作函数，包括启动线程、结束线程等。//启动线程函数的定义_ACRTIMP uintptr_t __cdecl _beginthread( _In_ _beginthread_proc_type _StartAddress,//函数地址 _In_ unsigned _StackSize,//栈大小 _In_opt_ void* _ArgList //参数列表 );//返回类型为整形//结束线程函数定义
2020-05-26 17:30:08
563
原创 内存补码
字节编码为低地址低字节、高地址高字节printf("%d %f", 10.3, 10);//printf会按照给定的数据类型解析，输出-1717986918 0.0000000000 0000 0000 0000 0000 0000 0000 0001 1的原码1000 0000 0000 0000 0000 0000 0000 0001 -1的原码0111 1111 1111 1111 1111 1111 1111 ..
2020-05-26 17:26:11
203
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人