【学习笔记】李宏毅2020ML&DL课程 1_8-8_8 explanable ML

ML Lecture 1_8 explanable ML

explanable ML不一定是要完全知道ML如何work，而是让人觉得舒服，觉得合理，觉得爽。

不能因为DL无法解释所以就不用他，这是削足适履。该用DL还得用，只是希望DL能够得到解释

ML Lecture 3_8 explanable ML local explanation

数码宝贝和宝可梦的分类，人的感觉是比较困难的

“胡乱叠的”网络，结果出奇的好。

画出的saliency map，注意力并没有关注到生物的本体上，以下为数码宝贝：

以下为宝可梦：

为什么？原来两种图片的背景不一样！网络看背景就可以分辨，相当于其实网络什么都没有学到

ML Lecture 6_8 explanable ML local explanation

用模型去解释模型，输出结果要尽可能相同