思路:
1.预测的设定:与训练集的数据A 激活神经元相似的种子X,就被预测为A类。
若种子X被DNN分为A类,则激活神经元应相似于A。若DNN将X错误分类为B,激活神经元也要相似于B。
实验结果:用皮尔逊相关系数分析
2.当比较基于测试样本的神经元簇与基于训练数据集的神经元簇之间的相似度时,如果相似度之间的差异小于阈值,则将测试样本视为故障诱导测试样本。
思路:
1.预测的设定:与训练集的数据A 激活神经元相似的种子X,就被预测为A类。
若种子X被DNN分为A类,则激活神经元应相似于A。若DNN将X错误分类为B,激活神经元也要相似于B。
实验结果:用皮尔逊相关系数分析
2.当比较基于测试样本的神经元簇与基于训练数据集的神经元簇之间的相似度时,如果相似度之间的差异小于阈值,则将测试样本视为故障诱导测试样本。