Automatic Searching and Pruning of Deep Neural Networks for Medical Imaging Diagnostic

1.简介

深度神经网络是用于从原始和高维数据中提取有意义知识的最有效的计算模型之一。DNNs的使用有助于解决计算机视觉[1]、自然语言理解[2]、机器人学[3]和许多其他领域中的各种挑战性问题。DNN的拓扑或架构是通过堆叠能够执行简单数学运算的计算节点来构建的，例如求和、乘法和卷积。通过计算给定数据库或数据集上损失函数的偏导数，可以轻松调整这些简单节点中的参数。此外，因为这样的节点正在计算简单的操作，所以它们中的许多可以在图形处理单元(GPU)上并行运行。

由卷积运算组成的DNN架构是用于医学成像诊断领域的很好的候选者，医学成像诊断在这里被定义为使用任何可以帮助医生诊断疾病的图像，例如肺炎的x光图像、前列腺癌的磁共振成像(MRI)和肺癌的计算机断层扫描(CT)。使用这种神经网络处理医学成像数据的一个优点是，它们能够学习从训练数据中提取基本特征。例如，铃木等人[4]使用传统的人工神经网络(ANN)架构，没有任何卷积层，来分类肺结节的CT图像是否包含恶性(癌性)或良性结节。由于人工神经网络在处理高维数据时不能很好地扩展，铃木等人[4]通过提取低维特征对所有的计算机断层图像进行预处理，并将它们用作人工神经网络的输入。

深度卷积神经网络(CNNs)是通过堆叠多个卷积层构建的，非常适合处理二维数据，例如医学成像中发现的数据，尽管它们的确切架构取决于问题。在医学影像诊断学领域使用CNNs并不仅限于目前的工作。文献中的许多作品已经应用它们来帮助诊断许多疾病。例如，佩雷拉等人[5]和莫斯科普斯等人[6]使用CNNs从患者大脑的核磁共振扫描中分割肿瘤。此外，龙内伯格等人[7]开发了一种特殊类型的DNN，称为U-Net，用于分割感兴趣的区域，例如包含肿瘤或致癌细胞的区域。U-net包含卷积和反卷积层&