可解释人工智能技术-积分梯度

积分梯度是先设定一个基线，按照指定步长，使得基线一步步变化到原始输入值。然后计算模型的预测结果相对于这一系列变化的累计积分，即为积分梯度。积分梯度可以表示哪些输入对预测结果的影响更大。

 例如，这只猫的图片，通过积分梯度的方法，我们可以看到猫的鼻子和肚子上的毛毛，对预测结果的影响比较大。接下来介绍这是怎么实现的。

---

目录

1. 准备原材料

2. 读取图片到tensor

3. 设定基线并逐渐变化到原始输入

4. 计算预测结果相对于输入的梯度

5. 计算梯度的累计积分值

6. 计算结果并可视化

---

1. 准备原材料

可以在这里（可解释人工智能技术-积分梯度-深度学习文档类资源-CSDN下载）直接获取，里面包含

• 一张猫咪的图片
• 一个已经训练好的inception v5模型

2. 读取图片到tensor

def read_image(filename):
    image = tf.io.read_file(filename)
    imag