Wayne 2024 | 通过基于图模型和自蒸馏深度学习增强医疗保健信息学

最新推荐文章于 2024-09-16 16:34:53 发布

数据派THU

最新推荐文章于 2024-09-16 16:34:53 发布

阅读量44

点赞数

文章标签：深度学习人工智能

原文链接：https://mp.weixin.qq.com/s?__biz=MzI1MjQ2OTQ3Ng==&mid=2247643007&idx=2&sn=52d92b906d75ebba1dbcaeceab378bda&chksm=e87f73327449333a06519e37a7c8acf6afa30a086dd41e6a2e8ef76733398e47f47800381653&scene=126&sessionid=0

版权

本文约1800字，建议阅读9分钟
本文介绍了基于图模型和自蒸馏深度学习增强医疗保健信息学。‍‍‍

深度学习彻底改变了计算机视觉、自然语言处理、机器人技术、医学图像处理等许多领域。在本论文中，我们专注于通过使用深度神经网络对医疗保健数据进行建模来增强医疗保健信息学，以完成不同的下游任务，例如分类、回归和图像分割。

在本论文的第 2 章中，我们介绍了相关的深度学习文献，并在此基础上提出了用于增强医疗保健信息学的深度学习算法。

在第 3 章中，我们提出了一种新颖的“扩张 CNN+RN”，它将扩张 CNN 与关系网络 (RN) 相结合，使用局灶性癫痫 (FE) 儿童的全脑连接组数据深入推理非局部轴突连接的依赖关系。

在第 4 章中，我们提出了一种新颖的时空同步图Transformer 网络 (STSGT)，以捕捉 COVID-19 时间序列数据的复杂空间和时间依赖性并预测不断发展的流行病的未来状态。

在第 5 章中，我们提出了一种用于体积医学图像分割的 U 形网络中的新型双自蒸馏 (DSD) 框架，这是一种广义训练策略，它广泛利用 U-Nets 的编码器和解码器层的蒸馏来进一步提高其分割性能。

在第 6 章中，我们解决了 MRI 序列数据缺失的癫痫儿童癫痫发作区 (SOZ) 定位问题，提出了一种新颖的序列不可知 (SA) 模型，该模型在类级别和特征图级别对 MRI 序列输出进行跨序列蒸馏，以改进每个单独 MRI 序列的表示学习。

最后，在第 7 章中，我们总结了论文，重点介绍了我们通过深度学习增强医疗信息学的原创贡献，并讨论了该方向的一些有希望的未来工作。

论文题目：Enhancing Healthcare Informatics Through Deep Learning With Graph-Based Models and Self-Distillation

作者：Banerjee Soumyanil

类型：2024年博士论文

学校：Wayne State University（美国韦恩州立大学大学）

下载链接：

https://pan.baidu.com/s/1L5jRFdkSVnvJ0_DoDCNJTQ?pwd=epf4

硕博论文汇总：

https://pan.baidu.com/s/1Gv3R58pgUfHPu4PYFhCSJw?pwd=svp5

建议的扩张 CNN+RN 的架构图，它采用给定的输入 Sm 来预测输出分数 tm。在这个架构中，每个“卷积”表示：CNN + Max-Pooling，每个“扩张卷积”表示：CNN（扩张因子为 2）+，Max-Pooling。同一网络用于术前 CELF 语言评分和 ILAE 术后癫痫发作结果预测以及语言障碍预测。

基于 pDWIC 的语言网络，（左）表达性语言网络，Ωexpressive。（右）接受性语言网络，Ωreceptive，这些网络来自 31 名幼儿（年龄：4.25±2.38 岁，20 名男性）。蓝色球体表示 Am,n 的 17 个节点，在校正 p 值 < 0.05 时，与 CELF 分数的 Pearson 相关系数具有统计学意义。黑色球体表示 Am,n 的其他 99 个节点没有显著相关性。每个 2-D 矩阵显示每个语言网络中的成对连接边，Am,n = 1 – 17。

激活图显示扩张的 CNN+RN 学习到的 AAL 大脑区域最能预测 CELF 分数和 ILAE 手术结果。每个 2D 圆形连接组都呈现一个 Circos 表意符号，显示 AAL 节点及其贡献（即权重），以提高预测准确性，并通过单个条带的厚度进行量化。较厚的条带表示节点更能预测真实观察结果。为了清晰起见，省略了相对较小的注意力权重（即 Z 分数小于每个图的 3 倍标准差）。

使用滑动窗口方法从训练数据中生成样本。

从历史 M 个时间步骤生成的时空同步图 G˜。

时空同步图G˜的邻接矩阵A˜。

我们提出的时空同步图Transformer 网络 (STSGT) 的架构

时空同步图Transformer 层的架构。GCN 使用时空同步图 A˜updated 的邻接矩阵。

（左）STST 的架构和（右）每个 STST 内的时空同步自注意力的一个头部的架构。

使用 U 形网络演示自我蒸馏，用于体积医学图像分割。Y 和 G 分别表示网络输出的 softmax 和独热编码的地面实况 (GT) 标签。Ei|Z i=1 和 Di|Z i=1 分别表示编码器和解码器端瓶颈模块的输出。T 和 S 分别表示教师和学生概率分布。显示的所有虚线仅在训练期间使用，并在推理期间被删除。