[ValseWebinar] 可解释性AI专题
https://www.bilibili.com/video/BV1oJ411k7mf?from=search&seid=6708423743269033
可解释性学习未来的发展方向是什么?
鲁棒性方面:如何增强深度神经网络的鲁棒性?使得在医疗、自动驾驶、军事战争等重要的方面发挥作用。
可解释性分为两大类:
1.面向模型开发设计的研究人员,对模型的各个层进行解释,以此来设计鲁棒性更好的model;
2.面向应用model的各类从业人员,比如医生、金融师,他们并不是很懂深度学习,但是他们需要理解深度学习学出来的结果,知道深度学习为什么做出这样的决策。
(目前这两类工作的研究也才刚刚开始,未来需要做大量的研究)
可解释性是不是只针对DNN?传统模型需不需要可解释性?
传统模型的提出就是基于严谨的数学上或者几何上的方法,其原理是非常清楚的。
深度学习发展过程中,我们并不是非常清楚深度学习的原理,在很多实际问题中,无论是基于经验还是基于各种各样的试错过程,我们会构造出非常work的网络结构,但是我们并不能说清楚这个网络为什么会work。
现在发展到这个阶段,我们需要弄清楚网络的原理,给出可解释性,以至于可以更有针对性的提升网络模型的性能。
未来的方向:目前还是对已有的网络进行分析