【文献学习】Analysis of Deep Complex-Valued Convolutional Neural Networks for MRI Reconstruction

最新推荐文章于 2024-04-13 09:59:14 发布
最新推荐文章于 2024-04-13 09:59:14 发布
阅读量1.3k 收藏 17
点赞数 2
分类专栏： 文献学习 文章标签： 核磁共振 复数模型 卷积神经网络 MRI CNN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43935696/article/details/113413433
版权

目录

作者提供TensorFlow复数模型源码https://github.com/MRSRL/complex-networks-release

1 简介和创新点

MRI (Magnetic resonance imaging)核磁共振图像
利用复数神经网络代替实数神经网络实现核磁共振图像重建，以加快扫描时间，并确定各种有前途的复值激活函数的性能。
以往的处理复数是把实数和复数分为两条通道，但是这样做会丢弃数据的某些复数代数结构，并且在数据在整个网络中移动时并不一定要保持数据的相位信息。
当前解决图像重建的的神经网络有GAN、ADMM-Net、MoDL、U-Nets、AutoMap
复数的优越性
• 《Deep complex networks》通过使用复值卷积，减少了每个模型中的参数数量。这减少了网络占用的内存，可学习的参数数量和训练时间。
• 《Associative Long Short-Term Memory》中，提出了复数权重根在内存访问体系结构中更稳定且在数值上更有效。使网络具有更丰富的表示能力。
评价标准

2 模型

2.1 复数激活函数

在这里插入图片描述

2.2 系统模型

作者提出了两个模型作为对比实验，第一个是基于展开式优化的，该优化基于迭代软收缩算法。包括两个模块，一个是数据一致性模块和去噪模块。

  • 数据一致性模块：使用MRI模型强制与物理测量的k空间样本保持数据一致性
  • 去噪模块：使用残差结构块进行去噪输入图像以产生输出图像.除最后一个卷积层外，每个卷积层后都有一个ReLU和一个复数值激活函数

在这里插入图片描述

第二个是U-Net。该网络使用卷积和反卷积来捕获信息。每个橙色框都表示了一个多通道特征图。

  • 红色箭头是复数卷积，每个卷积后跟一个ReLU激活函数
  • 蓝色箭头2x2最大池化，步长为2
  • 最后一层绿色箭头的是一维卷积，作者的画图有误
  • 黑色箭头是copy
  • 经过本人的不确定分析，网络的输入是复数值，输出是二维图片的值

在这里插入图片描述

3 模型参数

L1 损失函数
Adam优化器
学习率0.001
U-Net的Batch-size =3
Unrolled Network的Batch-size = 2
50000epoch
实现框架：Tensorflow
评估标准：NRMSE归一化均方根误差、峰值信噪比PSNR、结构相似性指数SSIM
NRMSE和PSNR是在复数值图像上评估的； 但是，仅在幅度图像上评估SSIM

4 实验分析

TensorFlow实现的复数工具包
https://github.com/MRSRL/complex-networks-release

4.1 激活函数分析

实验过程：
在展开网络中，实数网络的激活函数Relu，复数网络，对比了modRelU,CReLU,zReLu和cardioid，最佳激活函数CReLU
对于该实验，迭代次数和特征图的数量分别固定为4和256。 实值和复数网络被设计为具有几乎相同数量的参数。
实验结果：复数网络相对于实数网络能更好的保留相位信息，最佳激活函数时CReLu
在这里插入图片描述

4.2 网络宽度分析

实验过程：
在展开网络中,通过将迭代次数固定为4，同时改变每一层中的特征图的数量，来评估展开网络宽度对实数网络模型与复数网络模型的性能的影响
实验结果：同时保持每个模型的参数总数大致相同。 当使用复值卷积时，重构性能得到了显着提高。

  • NRMSE：归一化均方根误差
  • PSNR：峰值信噪比
  • SSIM在: 结构相似性指数

在这里插入图片描述

4.3 网络深度分析

实验过程：
在展开网络中,通过训练实数网络和复数网络在每一层中进行2、4、8和12次迭代来改变网络的深度，分析两种网络的性能差异
实验结果：随着迭代次数的变化，特征图的数量是固定的，同时每个模型的参数总数保持大致相同。和实验类似的结果

4.4 网络结构分析

实验过程：
在U-Net网络上，使用复数搭建和实数搭建神经网络，分析在不同的结构上，复数神经网络是否有优势。
实验结果：通过分析图像，实值模型在相位图像的背景中引入了相位包裹错误，而复数网络模型和CS则没有。且复数网络的性能更佳。

4.5 实验结论

复值模型能够更准确地表示数据的复值性质。经过实验分析，复数框架能够轻松的适应其他网络架构，可以广泛应用到超声波，光学成像，雷达，语音和音乐领域
原因分析

  • 通过在具有复值卷积层的模型中使用复值权重，可以使用更多特征图，以使参数数量与具有实值卷积层的模型中的参数数量相同。 这样可以提高重建精度
  • 因为复值网络强制执行保留输入数据相位的结构，所以与实值网络的重构相位相比，复值网络的重构相位通常在视觉上更接近于地面实相(the phase of the ground truth)的相位。

5 疑问和思考

（1）网络模型的具体的输入输出，本人没有阅读明白，经过我的不确定分析，对于两个模型的理解如下

  • 在展开模型中，数据一致性模块处理的复数信号到raw image生成的过程，然后再把带有噪声的图片放入ResNet 中去噪。神经网络实现的图片的去噪
  • 在U-Net中，输入是复数值，输出是二维图片的数值
    （2）提供的源码只是《DeepComplexNetwork》文献提供的源码的TensorFlow复现。对于基于ISTA算法的展开网络和U-Net还需要通过看其他文献了解这两个模型细节，U-Net模型来自《U-net: Convolutional networks for biomedical image segmentation》
Better Bench
关注
  • 2
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
专栏目录
deep_complex_networks-master_复数域神经网络_
10-03
复数域神经网络；全面解析；适合新手和小白
【文献学习】Complex-Valued Convolutions for Modulation Recognition using Deep Learning
BetterBench的博客
01-20 1988
1 简介和创新点 （1）在文献《Convolutional radio modulation recognition networks》的CNN2模型进行了修改，增加了一个线性变换，提升了调制分类的效果。 （2）使用更简单的卷积模型，通过使体系结构直接计算复数的卷积来提高性能。 未来的工作将研究更复杂的架构，替代的激活功能，批处理规范化等。 （3）主要技术点是将复数数据作为两列实数数组与实值二维卷积和线性组合内核相结合的方法使神经网络能够计算复数的卷积。提出的修改是线性组合运算，因此不需要对现有的卷积架构进
深度学习：深度复数网络(Deep Complex Networks)-从论文到pytorch实现
热门推荐
Ten_yn的博客
03-03 2万+
实数网络在图像领域取得极大成功，但在音频中，信号特征大多数是复数，如频谱等。简单分离实部虚部，或者考虑幅度和相位角都丢失了复数原本的关系。论文按照复数计算的定义，设计了深度复数网络，能对复数的输入数据进行卷积、激活、批规范化等操作。在音频信号的处理中，该网络应该有极大的优势。这里对论文提出的几种复数操作进行介绍，并给出简单的pytorch实现方法。
python——复数表示
gy笨瓜的博客
12-01 4121
(1)python复数表示 In [1]: x = 1 + 2j (2)访问复数的实部和虚部 In [2]: x.real In [3]: x.imag Out[2]: 1.0 Out[3]: 2.0
【复数表达】Deep Complex Network
weixin_43882112的博客
11-19 1976
文章目录1. Introduction2. Motivation3. Method4. Experiments 1. Introduction 来源：ICLR 2018，基于复数的深度网络 原文配置：https://www.kaifa99.com/GitHub/article_155136 2. Motivation 思考： 如何在神经网络里表示 a+bi 如何进行卷积运算 3. Method 激活函数： BatchNorm: 4. Experiments ...
使用复值深度神经网络逆合成孔径雷达成像
XiaoJie的博客
10-18 2213
合成孔径雷达和逆合成孔径雷达，就是相对运动问题，关键在于后期数据处理，于雷达天线本身无关 合成，就是对雷达波发射情况进行数据化，然后进行后期的计算，原义是人工合成 逆合成孔径雷达的概念 ISAR，是指逆合成孔径雷达(Inverse Synthetic Apeture Radar)，其成像可以获得反映目标大小、形状、结构及姿态等细节信息的二维及三维高分辨雷达图像，是解决目标识别问题的一种重要技术手段 虽然ISAR和合成孔径雷达一样是利用雷达和目标间的相对运动成像的，但是，SAR在运动平台上对固定目标和场景进行
Complex-Valued.Neural.Networks.Advances.and.Applications
09-29
Abstract This chapter contains sections titled: Introduction Derivatives in Wirtinger Calculus Complex Gradient Learning Algorithms for Feedforward CVNNs Learning Algorithms for Recurrent CVNNs ...
Complex－Valued_Neural_Networks
04-07
《Complex－Valued Neural Networks》是由Akira Hirose编著的一本专业书籍，专注于探讨复值神经网络（Complex-Valued Neural Networks，简称CVNNs）的理论与应用。复值神经网络是一种特殊的神经网络模型，它在神经元...
Further investigate the stability of complex-valued recurrent neural networks with time-delays
02-09
标题和描述中涉及的关键知识点包括“复值递归神经网络（Complex-Valued Recurrent Neural Networks, RNNs）”，“时延（time-delays）”以及“稳定性（stability）”。以下是对这些概念及相关内容的详细解读： 1. ...
Lagrange stability of complex-valued neural networks with time delays
12-28
在内容中提到的关键词“Lagrangestability”（拉格朗日稳定性）、“Complex-valued neural networks”（复值神经网络）、“Time delays”（时滞）以及“Matrix measure”（矩阵测度）是研究复值时滞神经网络稳定性时...
Deep Complex Networks(深度复网络)
sqq的博客
05-29 1万+
DEEP COMPLEX NETWORKS（深度复网络） 文章地址：paper 作者： 参考博客：地址 摘要：目前，深度学习的绝大多数构件，技术和体系结构均基于实值操作和表示。然而，最近关于递归神经网络和较早的基础理论分析的研究表明，复数可以具有更丰富的表示能力，并且还可以促进噪声鲁棒的记忆检索机制。尽管它们可能在带来全新的神经架构具有吸引人瞩目的潜能，但由于缺乏设计此类模型所需的构件...
【文献学习】 2021 Deep-Waveform: A Learned OFDM Receiver Based on Deep Complex Convolutional Networks
qq_43507770的博客
11-02 2128
https://arxiv.org/abs/1810.07181 译文 参考文章 深波：一种基于深复卷积网络的学习OFDM接收机： 参考文章2 代码 代码2 近年来对无线通信物理层深度学习的研究表明，深度神经元网络在信道编码、调制和参数估计等方面具有良好的性能。然而，目前还不清楚深层神经元网络是否也能学习当前和下一代无线网络的先进波形，并有可能创造出新的波形。在本文中，开发了一种没有明确的离散傅里叶变换（DFT）的深度复数卷积网络（DCCN）作为正交频分复用（OFDM）接收器。与现有的由全连接层和非线性激活
论文速递 | 一份超全易懂的深度学习在图像去噪的综述
极市平台的技术博客
02-12 3892
近日哈尔滨工业大学、广东工业大学、清华大学与台湾国立清华大学等研究人员共同撰写一篇深度学习在图像去噪上的综述并在arxiv发表，该综述系统地总结图像去噪的重要性、图像去噪技术的发展、传统的机器学习和深度学习的图像去噪技术的优缺点以及刨析出图像去噪技术面对的挑战与潜在的研究点。该综述对学术界和工业界都有重要的指导作用，值得学习。 Deep Learning onImage Denoising: An...
Deep Complex Networks 项目运行攻略
Clockworkai's Blog
11-10 2108
首先，本文档会尽量多地覆盖一些细节。也就是说尽量把你当做啥都不懂的，宁可错杀一千，绝不放过一个你不知道的知识点，敬请谅解。（此风格为Tips） 正文开始，现在越来越多的论文会在GitHub上公开源代码。本文档是如何将GitHub上的代码运行起来的技巧。 这里多说一些关于GitHub的技巧吧，GitHub是一个面向开源及私有软件项目的托管平台。类似的有码云（马爸爸真的没有生气吗？？），原来...
FPGA加速BCNN
qq_56881353的博客
11-06 675
对于许多信号处理应用来说，能够从具有相位信息的复数数据中进行学习是必不可少的。当前实值深度神经网络（DNN）在潜在信息分析方面表现出了较高的效率，但在复数领域的应用还不够。而深度复数网络（Deep complex networks, DCN）可以从复数数据中学习，但计算成本较高，因此，这些技术都不能满足可部署系统处理短观测或短信号突发的即时决策需求。近年来，将 DCN 与二值化神经网络（BNN） 相结合的二值化复数神经网络 （BCNN），在实时分类复数数据方面显示出巨大潜力。 实现这一高性能的结果来自
【医学图像智能计算】DL在医学影像中的应用综述—图像重建
ShiTianlei的博客
10-03 2558
本文以临床常用的 X 射线、超声、计算机断层扫描和磁共振等4 种影像为例，对深度学习在医学影像中的应用现状进行综述，特别面向图像重建、病灶检测、图像分割、图像配准和计算机辅助诊断这5大任务的主要深度学习方法的进展进行介绍，并对发展趋势进行展望
探索深度复杂数网络：一个创新的神经网络框架
最新发布
gitblog_00017的博客
04-13 255
探索深度复杂数网络：一个创新的神经网络框架 deep_complex_networksImplementation related to the Deep Complex Networks项目地址:https://gitcode.com/gh_mirrors/de/deep_complex_networks 在这个数字化的时代，人工智能和机器学习正在不断推动科技前沿，而其中的神经网络是这些进展的...
卷积神经网络CNN（Convolutional Neural Network）
敷衍zgf的博客
11-02 1万+
卷积神经网络CNN
complex-valued neural networks: theories and applications电子版
12-07
《complex-valued neural networks: theories and applications》是一本介绍复数值神经网络理论和应用的电子书。该书首先介绍了复数值神经网络的基本概念和数学原理，包括复数的表示、运算规则和复数神经元的构建。然后详细阐述了复数值神经网络在信号处理、图像识别、自然语言处理等领域的应用，以及与实数值神经网络在性能上的比较和分析。 在理论方面，该书深入解释了复数值神经网络相较于实数值神经网络的优势和特点，如对非平稳信号的处理能力、对相位信息的敏感度等。同时，还介绍了复数值神经网络在频域特征提取、相位编码和解调等方面的重要性，以及复数值神经网络在复杂环境下的稳定性和鲁棒性。 在应用方面，该书涵盖了复数值神经网络在通信系统中的调制解调、自适应滤波和信道均衡等方面的应用，以及在图像处理中的相位提取、变换和压缩等应用，同时还介绍了复数值神经网络在自然语言处理中的词向量表示、语义分析和情感识别等应用。 总之，《complex-valued neural networks: theories and applications》是一本系统全面地介绍了复数值神经网络的理论和应用的电子书。这本书对于研究人员、工程师和学生都有很高的参考价值，可以帮助他们深入理解复数值神经网络的原理和方法，并且在实际应用中发挥其优势。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Better Bench

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值