题目:A Multi-Level Interpretable Sleep Stage Scoring System by Infusing Experts’ Knowledge Into a Deep Network Architecture
基于专家知识融入深度网络架构的多层次可解释睡眠阶段评分系统
作者:Hamid Niknazar; Sara C. Mednick
摘要
近年来,深度学习在包括计算机视觉、图像和信号处理等广泛领域显示出潜力和效率。然而,由于算法决策和结果缺乏可解释性,用户应用仍面临转化挑战。对于高风险应用(如医疗相关决策),这种黑箱问题尤为严重。本研究的目标是设计一个可解释的深度学习系统,用于时间序列分类的脑电图(EEG)睡眠阶段评分,作为设计透明系统的一步。我们开发了一个可解释的深度神经网络,其中包括一个基于内核的层,由人类专家在多导睡眠记录视觉分析中使用的睡眠评分原则指导。定义并使用基于内核的卷积层作为系统的第一层,并提供给用户解释。训练后的系统及其结果从EEG信号的微观结构(如训练的内核及每个内核对检测阶段的影响)到宏观结构(如阶段之间的转换)进行了四个层次的解释。所提出的系统显示出比先前研究更高的性能,系统学到的信息与专家知识一致。
关键词
- 黑箱问题
- 卷积神经网络
- 脑电图
- 可解释系统