weixin_39042208的博客

原创 LIME_模型的解释性

如上图包含f2特征的文档最多，所以f2的特征得分比较高。上图选f2和f5就覆盖了所有样本的全部特征。，并恢复与原始图像的格式z，放入到分类模型中f(z)，将其当作解释的标签。把得到的标签作为数据集Z，去优化上述方程。如上图一个人得了流感，是根据一些重要的特征得到，这些特征是人类能够理解的。如上图，右边的图也预测出无神论，但是解释的特征不相关。表示一个二进制向量，表示其可解释性。LIME背后的主要直觉如上图所示，其中我们在x (由于。选取最多的特征能表示整个数据集。，选取非零的区域得到。