DeepXplore相关文献总结

使用工具connected papers绘制了和DeepXplore相关的文献脉络图，并了解各个文献的主要工作如下。

1. 《DeepXplore: Automated Whitebox Testing of Deep Learning Systems》：引入了神经元覆盖NC。将为 DL 系统寻找既触发许多差异行为又实现高神经元覆盖率的输入表示为一个联合优化问题，并使用基于梯度的搜索技术来解决。

2. 《DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems》：在NC基础上，提出了一套基于多层次、多粒度覆盖的DNN测试准则。

3. 《DeepTest: Automated Testing of Deep-Neural-Network-Driven Autonomous Cars》：将NC应用在自动化汽车驾驶领域。测试DNN时，当输入图像是某些特定类型的变换时，其输出之间具有一定的相对关系，故而作者通过定义变形关系设计了一种输出评价准则（例如，汽车在不同的照明条件下应该表现相似），以此自动检测错误行为。

4. 《Testing Deep Neural Networks》：针对 DNN 的结构特征及其语义提出四种新的测试覆盖标准。

5. 《Guiding Deep Learning System Testing Using Surprise Adequacy》：惊喜充分性（详见：通过DNN的情绪指标（sentiment）对测试输入进行排序_海苔小饼干的博客-CSDN博客）。

6. 《Concolic Testing for Deep Neural Networks》：提出DeepConcolic——符号测试 in DNN。从使用具体输入执行程序开始，在具体运行结束时，必须启发式地选择另一个执行路径，然后对这个新执行路径进行符号化编码，并通过约束求解器求解得到公式，以产生新的具体输入。具体执行和符号分析交替进行，直到达到所需的结构覆盖率。

7. 《DeepMutation: Mutation Testing of Deep Learning Systems》：变异测试 in DNN。设计了一组源级变异算子和模型级变异算子。

8. 《Adversarial Sample Detection for Deep Neural Network through Model Mutation Testing》：使用“敏感性”度量标准检测对抗样本。

9. 《Feature-Guided Black-Box Safety Testing of Deep Neural Networks》：将生成对抗样本的过程公式化为一个两人轮流随机游戏，其中第一个玩家的目标是通过操纵特征来最小化与对抗样本的距离，第二个玩家可以是合作的、对抗的或随机的。文章证明了理论上两人博弈可以收敛到最优策略，并且最优策略代表了一个全局最小的对抗图像。使用蒙特卡洛树搜索，穷尽搜索游戏状态空间来搜索对抗样本。

10. 《Towards Practical Verification of Machine Learning: The Case of Computer Vision Systems》

11. 《TensorFuzz: Debugging Neural Networks with Coverage-Guided Fuzzing》：开发了神经网络覆盖引导的模糊测试 (CGF) 方法。在 CGF 中，神经网络输入的随机突变由覆盖度量（使用近似最近邻算法得到）引导，以达到满足用户指定约束的目标。文章还讨论了CGF在以下目标中的应用：在经过训练的神经网络中发现数值错误，在神经网络和这些网络的量化版本之间产生分歧，以及在字符级语言模型中发现不良行为。最后发布了一个名为TensorFuzz的开源库实现这些技术。

12. 《DeepRoad: GAN-Based Metamorphic Testing and Input Validation Framework for Autonomous Driving Systems》：自动驾驶测试框架。

13. 《Towards Evaluating the Robustness of Neural Networks》

14. 《AI2: Safety and Robustness Certification of Neural Networks with Abstract Interpretation》：AI2——用于深度神经网络的分析器，可以自动证明现实神经网络（例如，卷积神经网络）的安全性（例如，鲁棒性）。