可解释性研究
文章平均质量分 96
主要与可解释性有关
I still …
这个作者很懒,什么都没留下…
展开
-
可解释性研究 -LRP-for-LSTM
LRP算法一.LSTM1.1.理论部分1.2.作者代码二.LRP_for_LSTM2.1.理论部分2.2.作者代码参考文献LRP算法也是可解释算法的一种,全称Layer-wise Relevance Propagation,原始LRP算法主要是应用在CV等领域,针对NLP中通过Word2Vec等手段将token转化为分布式词向量并通过RNN向量化文档的可解释手段真不多。LIME虽然可以针对文本数据进行解释,但适用场景是tf-idf或者bag-of-word这种词向量,向量中一个维度代表一个词。这里参考的原创 2021-11-23 20:25:12 · 4075 阅读 · 7 评论 -
可解释性研究(四)-GNNExplainer的内部实现
GNNExplainer实现GNNExplainer.forwardExplainerBase.set_maskGNNExplainer.gnn_explainer_algtorch_geometric.nn GNNExplainer之前提到过GNNExplainer的论文,但是论文中的一大堆公式很难让人摸着边,所以上GitHub找了一些GNNExplainer的实现,有DIGIVDetectGNNExplainer会从2个角度解释图:边(edge):会生成一个edge mask,表示每条边原创 2021-09-06 13:38:20 · 3144 阅读 · 11 评论 -
DLVD模型的可解释性研究
Interpreting Deep Learning-based Vulnerability Detector Predictions Based on Heuristic Searching一.背景二.Deep Learning-Based Vulnerability Detection(DLVD)三.解释框架3.1 Heuristic searching3.2 Fidelity evaluation3.3 Rules extraction一.背景有许多静态代码分析方法需要专家编写规则来检测代码原创 2021-08-10 13:37:06 · 491 阅读 · 0 评论 -
可解释性研究(三)- DIG
Explainability in Graph Neural Networks:A Taxonomic Survey数据集1.合成数据集2.情感分类数据集3.分子数据集评估解释方法的指标1.Fidelity2.Sparsity3.Stability数据集1.合成数据集BA-shapes: 结点分类数据集BA-Community: 结点分类数据集Tree-Cycle: 结点分类数据集Tree-Grids: 结点分类数据集BA-2Motifs: 图分类数据集2.情感分类数据集基于SST原创 2021-08-08 12:12:21 · 684 阅读 · 2 评论 -
可解释性研究(二)- XGNN
XGNN: Towards Model-Level Explanations of GraphNeural Networks论文核心目标图生成器目标论文核心目标这里作者针对GNN图分类(graph-classification)问题。研究model-level 解释方法,具体方式是训练一个图生成器用 f(.)f(.)f(.) 表示一个训练好的GNN模型。y∈c1,⋅⋅⋅,cℓy \in {c_1,···,c_ℓ}y∈c1,⋅⋅⋅,cℓ 表示图的标签。给定训练好的GNN模型 f(.)f(.)f(原创 2021-04-20 15:59:16 · 1736 阅读 · 2 评论 -
图神经网络的计算过程
GNN的计算过程1.GCN2. Gated Graph Sequence Neural Network2.1. Gated Graph Neural Networks(GG-NNs)因为需要研究基于图网络的漏洞检测的可解释性需要熟悉图神经网络,故需要总结以下常见的图网络的前向传播过程。1.GCNGCN目前看到的基于结点分类的示例比较多,不过对图分类的还没见过,欢迎大佬补充。GCN的输入为图的邻接矩阵 A∈Rn×nA \in R^{ n \times n}A∈Rn×n图的结点特征矩阵 X∈Rn×原创 2021-04-15 16:33:07 · 1832 阅读 · 0 评论 -
可解释性研究(一)- GNNExplainer
GNNExplainer: Generating Explanationsfor Graph Neural Networks1.问题描述1.1. GNN背景1.2. GNNExplainer:问题描述最近需要研究代码漏洞相关的可解释性,而许多代码漏洞研究都用到了GNN,因此熟悉GNN有关的可解释性也很有必要。对GNN进行可解释性研究可以:提升了GNN的可信程度.在一些注重公平性,隐私性和安全性的决策应用,可以提升决策的透明度.可以更好的理解图本身的特性.作者提出GNNExplainer,这里原创 2021-04-14 15:33:40 · 1928 阅读 · 2 评论