XAI学习笔记

概念：

XAI是指一种能够让人类理解AI系统做出决策或预测的原因和过程的人工智能技术。它与“黑箱”机器学习的概念相对立，即即使是AI系统的设计者也无法解释AI为什么做出了特定的决策

意义：

1. 提高AI系统的可信度、可靠性、安全性和责任性，从而增强人类对AI系统的信任和接受度
2. 有助于发现和纠正AI系统可能存在的偏差、错误、漏洞和不合理性，从而提高AI系统的性能和效率
3. 可以促进人类与AI系统的协作和沟通，从而实现更好的决策和创新

框架：

 参考文献：

[1] Dwivedi R, Dave D, Naik H, et al. Explainable AI (XAI): Core ideas, techniques, and solutions[J]. ACM Computing Surveys, 2023, 55(9): 1-33.

[2] Sado F, Loo C K, Liew W S, et al. Explainable Goal-driven Agents and Robots-A Comprehensive Review[J]. ACM Computing Surveys, 2023, 55(10): 1-41.

[3] Lundberg S M, Lee S I. A unified approach to interpreting model predictions[J]. Advances in neural information processing systems, 2017, 30.