本书《可解释模糊系统：从可理解模糊系统到可解释AI系统的道路》探讨了在关键场景中，可解释人工智能（XAI）如何通过解释其决策来确保安全。随着机器学习系统的复杂性增加，解释有助于用户理解和调试系统行为。作者Lipton提出了透明度（模型工作原理的理解）和事后可解释性这两个概念，并进一步区分了可模拟性、可分解性和算法透明度等子类别。
笔记暂时采用中英夹杂的模式，会不断polish，也欢迎读者的建议
Explainable Fuzzy Systems: Paving the Way from Interpretable Fuzzy Systems to Explainable AI Systems. （英文书名）
Chapter 1: Toward Explainable Artificial Intelligence Through Fuzzy Systems.
In critical contexts, an XAI (Explainable AI) must be able to explain its choices in order to guarantee that some safety concerns are met.
此外，随着机器学习系统复杂性的增加，解释甚至有助于帮助用户调试或更好地理解系统行为。
Lipton (2018) 提出来两个专有名词
1. Transparency: a quality connected to understanding the working mechanisms of a model. The quality of transparency can be further refined in simulatability (i.e. ), decomposability (i.e. ), algorithmic transparency (i.e. the)
2. Post-hoc interpretability.
扫一扫
2113
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
