自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(22)
  • 收藏
  • 关注

转载 可逆神经网络 Invertible neural networks

可逆神经网络(Invertible Neural Networks,INVNs)是一种特殊类型的神经网络结构,其主要特点是可以实现输入到输出的双向映射,并且具有可逆性质。在可逆神经网络中,每个输入都可以唯一对应一个输出,同时每个输出也可以唯一对应一个输入,这种性质使得网络的反向传播和梯度计算更加高效和可靠。由于可逆神经网络可以实现输入到输出的双向映射,因此在这些任务中能够更好地实现数据的重构、还原和保持信息的完整性。INN被用于各种推理任务,如图像隐藏、图像重缩放、图像着色、和视频超分辨率等等。

2024-03-06 20:34:37 457

原创 关于Attention:整理

CNN Attention:SENet [ 18 ]使用通道注意力, CBAM [ 41 ]增加了空间注意力, ECANet [ 37 ]提出了高效的通道注意力来进一步改进SENet。 SASA [ 31 ]和SAN [ 48 ]部署了局部注意力层来代替卷积层。 最近LambdaNetwork [ 2 ]引入高效的全局注意力来建模基于内容和基于位置的交互,极大地改善了图像分类模型的速度-准确率权衡。 Bo TNet [ 32 ]在Res Net的最后3个瓶颈块中用全局自注意力取代了空间卷积,

2024-02-29 11:09:59 303

原创 关于语义分割

全卷积网络( FCN ) 将传统分类网络中使用的全连接层替换为卷积层,以达到更好的分割效果。上下文信息聚合已被证明是一种有效的工具,可以用来提高分割精度。 ------2015 ParseNet通过串联全局池化特征来捕获全局上下文。 --------2015 PSPNet 引入了空间金字塔池化( SPP )模块来收集不同尺度下的上下文信息。 ------2017 Atrous SPP ( ASPP )使用不同的空洞卷积来捕获多尺度上下

2024-02-28 09:26:05 390

原创 【论文阅读】Multi-ConDoS: Multimodal Contrastive Domain Sharing Generative Adversarial Networks for Self-S

DSGAN是CycleGAN和经典的成对图像翻译模型Pix2Pix的融合,并有额外的改进(加入多模态对比学习和共享层:目的是为了更好的学习领域共享特征,实现多模态信息之间的相互补充)。现有的自监督医学图像分割通常会遇到域偏移问题(也就是说,预训练的输入分布不同于微调的输入分布)和/或多模态问题(也就是说,它仅基于单模态数据,无法利用医学图像丰富的多模态信息)。生成器DSG旨在生成尽可能接近现实的图像,它包含两个编码器{ Ea,Eb },一个共享层模块( SL )和两个解码器{ Da,Db }。

2024-01-04 15:33:05 1131 1

原创 【图像配准】

(Non-rigid registration):非配对配准是指将不同图像或不同模态的图像进行空间或形态上的对齐,而这些图像之间在结构和形状上可能存在较大的差异。形变较大的图像:当需要对形变较大的图像进行对齐时,非配对配准是一个有效的选择。例如,在医学领域,脑部MRI图像的形态可能因为不同的解剖结构、姿势或病理变化而发生较大的形变,此时非配对配准可以帮助将这些图像进行空间上的对齐。例如,将CT图像与MRI图像对齐,或者将T1加权图像与T2加权图像对齐,非配对配准可以处理它们之间的差异,提高图像的对齐质量。

2024-01-04 09:48:06 403 1

原创 【论文阅读】Unsupervised Multi-Modal Image Registration via Geometry Preserving Image-to-Image Translation

提出了一种基于图像到图像转换网络的无监督多模态图像配准技术。本文的方法,不需要在不同模态的图像之间进行任何直接的比较。相反,开发了一个几何保持的图像到图像转换网络,它允许使用简单的单模态度量来比较变形和目标图像。通过一种新颖的训练方案使几何保持的平移网络成为可能,该方案交替并组合两种不同的流来训练空间变换。进一步表明,使用对抗学习,结合单模态度量,即使在只有少量训练数据的情况下,也能够产生平滑和准确的配准结果。

2023-11-22 22:00:26 153

原创 【论文阅读】Unsupervised registration for liver CT-MR images based on the multiscale integrated spatial-we

该网络采用F和M级联形成的两通道输入,通过编码和解码阶段的3D卷积、最大池化和上采样,形成3通道输出的密集形变场。经过一个上采样层后,特征图将首先与空间权重特征进行级联,然后通过两个3 × 3 × 3的卷积层进一步解耦特征,提高网络的非线性映射能力。此外,除通常的平滑正则化项,添加一个负雅克比正则化项来惩罚折叠体素,并保证整个形变的平滑性和拓扑保持性。在每个子采样层中,两个卷积层(核大小为3 ,步长为1)提取不同层次的图像特征,并使用ReLU层进行激活。该框架以F和M作为输入,使用图像配准网络计算形变场。

2023-11-21 10:03:20 86 1

原创 医学图像配准的意义

总的来说,CT图像在解剖结构和骨骼病变方面具有优势,适用于评估骨骼结构、计算器官大小等。而MRI图像则对软组织结构、脑部疾病和功能性信息的评估更为重要。在实际临床中,医生根据具体情况往往会结合使用CT和MRI图像,以获取更全面准确的诊断信息。CT(Computed Tomography)扫描和MRI(Magnetic Resonance Imaging)是两种常见的医学成像技术,它们在图像生成原理和应用方面有所不同,因此侧重点也会有所差异。特点:描述不同状态下人体的组织器官的。

2023-07-17 10:37:33 240 1

原创 RuntimeError: Error(s) in loading state_dict for AutoEncoderModel......

训练完model1之后保存了模型参数,命名为checkpoint_1;然后在model_1的基础上修改了模型,在内部添加了一些新的参数(或者更改了参数的名称),命名为model_2,训练之后保存了模型参数,命名为checkpoint_2。报错:RuntimeError: Error(s) in loading state_dict for Resnet50 Unexpected key(s) in state_dict:““在训练时可能会出现以上错误:原因是由于加载错误的模型参数导致的。

2023-07-05 09:58:45 808 1

原创 归一化、标准化、零均值化作用

如果选用的距离度量为欧式距离,数据预先没有经过归一化,那些绝对值大的features在欧式距离计算的时候起了决定性作用。将每个像素的值减去训练集上所有像素值的平均值,比如已计算得所有像素点的平均值为128,所以减去128后,现在的像素值域即为[-128,127],即满足均值为零。将某个特征的值映射到[0,1]之间,消除量纲对最终结果的影响,使不同的特征具有可比性,使得原本可能分布相差较大的特征对模型有相同权重的影响。将原值减去均值后除以标准差,使得得到的特征满足均值为0,标准差为1的正态分布,

2023-06-26 15:35:08 198 1

原创 pytorch-lighting

关于pytorch-lighting 的使用

2023-06-20 15:57:29 242 1

原创 【深度学习】关于EMA:指数移动平均

指数移动平均(exponential moving average),也叫做权重移动平均(weighted moving average),可以用来估计变量的局部均值,使得变量的更新与一段时间内的历史取值有关。它的意义在于利用滑动平均的参数来提高模型在测试数据上的健壮性。

2023-03-27 15:43:57 2153 1

原创 【深度学习】pytorch函数及专业术语解释

关于深度学习的一些术语解释

2023-03-14 16:09:20 386

转载 loss变化情况分析

模型loss变化

2023-02-28 15:12:50 458

原创 【论文阅读】Multi MAE:Multi-modal Multi-task Masked Autoencoder

Multi MAE:Multi-modal Multi-task Masked Autoencoder:一种有效且简单的 Vision Transformers 预训练策略。 MultiMAE 对来自多种模态的可见标记的一小部分随机子集进行编码,并经过训练以重建缺失的标记。

2023-02-27 19:49:21 649 1

原创 为什么使用imagenet_mean imagenet_std

imagenet_mean和imagenet_std

2023-02-21 09:44:27 348

原创 【知识点】dropout和droppath

dropout和drop path的不同

2023-02-20 20:34:38 775

原创 【论文阅读】AdaptFormer: Adapting Vision Transformers forScalable Visual Recognition

【论文笔记】AdaptFormer: Adapting Vision Transformers forScalable Visual Recognition

2023-02-12 21:44:48 381 1

原创 【论文阅读】Swin-transformer网络结构详解

Swin-transformer 网络架构详解

2023-01-19 20:57:42 1883

转载 【论文阅读】MAE模型介绍

关于MAE模型

2022-11-30 15:55:35 6177

原创 【论文阅读】Vision Transformer 模型详解

关于Vision Transformer模型的详解 ,末尾附原论文下载链接以及pytorch代码。

2022-11-24 20:45:27 5891

原创 【论文阅读】Deeplabv3+模型

关于deeplabv3+的something

2022-10-11 21:30:14 4021

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除