![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
论文笔记
文章平均质量分 92
模型质量评估的测试方法
浅尐墨〆
这个作者很懒,什么都没留下…
展开
-
GGT: Graph-Guided Testing for Adversarial Sample Detection of Deep Neural Network 论文笔记
本文提出了图引导测试(GGT)来进行敌意检测,它也是一种多模型方法。关系图是最近提出的一种便于DNN结构设计的技术。根据关系图的特点,有选择地去除图中的部分边,实现对DNN的剪枝 ,得到不同的决策边界。我们还利用连接到节点的平均边数(即平均度(AD))和网络中任意两个节点之间的平均距离(即平均最短路径长度(ASPL))来获得更具竞争力的检测结果。与MMT相比,GGT生成的DNN模型的浮点运算量大大减少,仅为原始模型的5%,同时,DNN结构的高度多样性使其在检测敌意样本时所需模型数量更少,性能显著提高。原创 2022-04-09 13:10:54 · 844 阅读 · 1 评论 -
《Guiding Deep Learning System Testing using Surprise Adequacy》论文笔记
Surprise Adequacy(SA)本文提出了SADL,这是一个用于DL系统的惊喜充分性框架,它可以定量地度量每个输入相对于训练数据的相对惊喜,我们称之为惊喜充分性(SA)。使用SA,我们还开发了惊喜覆盖(SC),它衡量离散输入惊喜范围的覆盖,而不是具有特定激活特征的神经元的计数。我们的实证评估表明,SA和SC能够准确地捕捉到输入的惊喜,是DL系统对未知输入做出反应的良好指标。SA与DL系统找到输入的难度相关,可以用来准确地对对抗性例子进行分类。原创 2022-03-30 18:17:14 · 4799 阅读 · 0 评论 -
DeepXplore: Automated Whitebox Testing of Deep Learning Systems 论文笔记
DeepXplore,这是第一个系统测试真实DL系统的白盒框架。首先,我们引入神经元覆盖来系统地测量由测试输入执行的DL系统的部分。接下来,我们利用具有类似功能的多个DL系统作为交叉引用预言来避免手动检查。最后,我们演示了如何为DL系统找到既能触发许多差分行为又能实现高神经元覆盖率的输入,这可以表示为一个联合优化问题,并使用基于梯度的搜索技术有效地解决。原创 2022-03-30 18:12:11 · 4203 阅读 · 0 评论