可解释性学习未来的发展方向是什么

[ValseWebinar] 可解释性AI专题
https://www.bilibili.com/video/BV1oJ411k7mf?from=search&seid=6708423743269033

可解释性学习未来的发展方向是什么？

鲁棒性方面：如何增强深度神经网络的鲁棒性？使得在医疗、自动驾驶、军事战争等重要的方面发挥作用。
可解释性分为两大类：
1.面向模型开发设计的研究人员，对模型的各个层进行解释，以此来设计鲁棒性更好的model；
2.面向应用model的各类从业人员，比如医生、金融师，他们并不是很懂深度学习，但是他们需要理解深度学习学出来的结果，知道深度学习为什么做出这样的决策。
（目前这两类工作的研究也才刚刚开始，未来需要做大量的研究）

可解释性是不是只针对DNN？传统模型需不需要可解释性？
传统模型的提出就是基于严谨的数学上或者几何上的方法，其原理是非常清楚的。
深度学习发展过程中，我们并不是非常清楚深度学习的原理，在很多实际问题中，无论是基于经验还是基于各种各样的试错过程，我们会构造出非常work的网络结构，但是我们并不能说清楚这个网络为什么会work。
现在发展到这个阶段，我们需要弄清楚网络的原理，给出可解释性，以至于可以更有针对性的提升网络模型的性能。
未来的方向：目前还是对已有的网络进行分析