论文信息
题目:The Decoupling Concept Bottleneck Model
解耦概念瓶颈模型
作者:Rui Zhang, Xingbo Du, Junchi Yan, Shihua Zhang
源码链接:https://github.com/deepopo/DCBM
论文创新点
- 理论贡献: 首次从数学上证明了在概念信息不足的情况下,CBM存在概念和标签失真的固有困境。
- 模型创新: 提出了解耦概念瓶颈模型(DCBM),通过解耦显式和隐式概念,缓解了概念和标签失真问题。
- 交互设计: 设计了前向干预和后向纠正两种人机交互任务,通过互信息估计自动纠正标签并追踪错误概念。
摘要
概念瓶颈模型(CBM)是一种可解释的神经网络,利用高层概念来解释模型决策并进行人机交互。然而