可解释性
文章平均质量分 87
Tingsie
这个作者很懒,什么都没留下…
展开
-
可解释性lime
区分信任的两个不同的(但相关的)定义很重要: (1)信任预测,即用户是否充分信任单个预测,以便基于该预测采取一些行动; (2)信任模型,即用户是否信任模型在部署时以合理的方式运行。 这篇文章提出为单个预测提供解释作为“信任预测”问题的解决方案,并选择多个这样的预测(和解释)作为“信任模型”问题的解决方案。我们的主要贡献总结如下。 •LIME,一种算法,通过使用可解释的模型对其进行局部近似,以忠实的方式解释任何分类器或回归器的预测。 •SP-LIME,一种通过子模块优化选择一组具有代表性的实例和解释来解决“信原创 2021-01-24 18:23:41 · 2598 阅读 · 0 评论 -
可解释性啊
可解释分为 local explanation 和 global explanation 以图像识别为例: local explanation 要求解释“这张图片”为啥是一只猫? global explanation 要求解释 你认为猫长得什么样? local explanation 方块的大小和颜色也是需要选择的,也是参数的一部分 像素点越亮,代表当前像素对结果预测越重要 在图中点处的偏微分约为0,证明鼻子长度对是否大象影响不大,但事实并不是如此。解决这一问题的方法原创 2020-11-25 19:30:15 · 224 阅读 · 0 评论