- 博客(35)
- 资源 (1)
- 收藏
- 关注
原创 Mamba In-2.Vision Mamba公式推导
在之后加入 步长∆后,h(t+∆)如何表示呢?可以在h(t)处做一个切线,此时的h(t+∆)就由红色加蓝色的虚线相加得到了。不需要关注这两个式子是什么意思,只需要知道这两个式子是将连续状态打散为离散状态,最终得到公式4.对应于Vision Mamba论文中的公式3.在Mamba论文中它的block就是这样的,根据这两个公式构建的,h代表状态,x代表输入,y代表输出。红色的虚线可以表示为 函数在t位置的导数,其实可以表示为tanθ。论文拿 Ā 和 B拔来 代替 h(t)和 x(t) 前面的参数。
2024-06-02 12:05:44
281
原创 TIP2023| nnFormer:利用交织3D卷积和Transformer进行医学分割的新方案
Transformer作为自然语言处理的首选模型,在医学影像界引起了很少的关注。考虑到利用长期依赖关系的能力,Transformer有望帮助非典型卷积神经网络克服其空间归纳偏差的固有缺点。nnFormer不仅利用**交织卷积和自注意**操作的结合,还引入了局部和全局基于体积的自注意机制来学习体积表示。此外,nnFormer提出在U-Net类架构中**使用跳跃注意**来代替传统的跳跃连接中的连接/求和操作
2023-03-15 15:36:00
4903
5
原创 MICCAI 2022 | PHTrans: Parallelly Aggregating Global and Local Representations for Medical Image Seg
Transformer在计算机视觉领域的成功引起了医学影像界越来越多的关注。特别是在医学图像分割方面,已经出现了许多基于卷积神经网络(CNNs)和Transformer的混合架构,并取得了令人瞩目的性能。然而,大多数将模块化Transformer嵌入cnn的方法都难以发挥其全部潜力。在本文中,我们提出了一种新的混合架构PHTrans用于医学图像分割,该架构将Transformer和CNN在主要构件中并行混合,从全局和局部特征中生成分层表示并自适应聚合,旨在充分利用它们的优点以获得更好的分割性能。
2023-03-14 11:49:49
1077
2
原创 7.卷积和Transformer结合的ViT
前面两节课我们讲了Swin Transformer的结构,以及其中的细节部分,进行了实现,其中由Swin Block 以及 Patch Merging等等,上节课讲了 SW-MSA的shift和mask,对于shift之后,其中window中需要的保留,不需要的去掉,用到了boardcasting等等。这节课我们考虑卷积和Transformer如何结合,我们首先看一下conv是如何计算的,如果输入是5×5,卷积核是3×3,进行一个滑窗之后,最终输出是3×3的特征图那我们看一下细节,如何实现。
2023-03-13 21:19:15
2067
3
原创 6.一脚踹进ViT——Swin Transformer(下)
介绍SW-MSA、Relative Position Bias并且进行coding 实现SW-MSA
2023-03-11 21:35:08
437
1
原创 MICCAI2022|A Robust Volumetric Transformer for Accurate 3D Tumor Segmentation
我们提出了一种用于3D分割的Transformer架构,这是一项具有挑战性的任务,需要在编码局部和全局空间线索时保持复杂的平衡,并沿体积的所有轴保存信息。所提出的设计的编码器受益于同时编码局部和全局线索的自注意力机制,而解码器采用并行的自注意力和交叉注意力公式来捕获用于边界细化的精细细节。经验上,我们表明,所提出的设计选择产生了一个计算效率高的模型,在医学分割十项全能(MSD)脑肿瘤分割(BraTS)任务中具有竞争性和有前景的结果。我们进一步表明,通过我们的模型学习的表示对数据损坏是鲁棒的。
2023-03-07 21:06:13
831
原创 (新SOTA)UNETR++:轻量级的、高效、准确的共享权重的3D医学图像分割
UNETR++:轻量级的、高效、准确的共享权重的3D医学图像分割高效配对注意(EPA)块,该块使用一对基于空间和通道注意的相互依赖的分支来有效地学习空间和通道方面的判别特征
2023-03-05 22:23:04
7942
12
原创 Python将nii图像进行padding扩充以及crop裁剪,以及最终将图片保存为pickle(pkl)或者png格式
Python将nii图像进行padding扩充以及crop裁剪,以及最终将图片保存为pickle(pkl)或者png格式
2023-02-15 19:49:21
1354
转载 Python将nii.gz的3D医学图像切片为2D图像
python将NIFTI格式nii文件读取导出成2D图像NIFTI格式的文件后缀为nii没有的库就自己安装一下命令 pip install 包名
2023-02-15 10:17:50
2994
4
原创 MICCAI 2022 | CLFC:基于对比学习的多模态脑肿瘤分割与单模态正常脑图像的特征比较
大多数人强调阐述深度网络的内部结构,以增强学习肿瘤相关特征的能力,而其他有价值的相关信息,如正常的大脑外观,往往被忽视。受放射科医生在识别肿瘤区域时经常被训练为与正常组织进行比较这一事实的启发,在本文中,我们提出了一种新的脑肿瘤分割框架,通过采用正常脑图像作为参考,在学习的特征空间中与肿瘤脑图像进行比较。通过这种方式,可以突出和增强肿瘤相关特征,以实现准确的肿瘤分割。
2022-12-18 06:00:00
2624
5
原创 MICCAI 2022 | mmFormer:Multimodal Medical Transformer for Incomplete Multimodal Learning of BTS
从磁共振成像(MRI)中准确地分割脑肿瘤是多模态图像的联合学习所需要的。然而,在临床实践中,并不总是能够获得一套完整的MRI,缺失模态的问题导致现有多模态分割方法的性能严重下降。在这项工作中,我们首次尝试利用Transformer进行多模态脑肿瘤分割,该方法对可用模态的任何组合子集都具有鲁棒性。具体而言,我们提出了一种用于不完全多模态学习的新型多模态医学Transformer(mmFormer)。
2022-12-17 12:11:33
1210
原创 MICCAI2022 | NestFormer用于脑肿瘤分割的嵌套模态感知的Transformer
论文提出一种新的嵌套的模态感知transformer(NestedFormer)来显式地探索用于脑肿瘤分割的多模态磁共振成像的,效果很好
2022-12-14 20:19:23
2117
原创 综述:CNN在脑肿瘤分类的应用(2015-2022)
该论文使用CNN架构使用MR图像的脑肿瘤进行分类的研究进行全面回顾,目的是确定该技术发展的有用策略和可能的障碍。对于每篇文章,提取了关于训练数据、目标问题、网络架构、验证方法和报告的定量性能标准的数据。然后评估这些研究的临床相关性,通过考虑卷积神经网络的优点来确定局限性,以及为了促进CNN算法的临床应用和发展需要解决的剩余挑战。最后,为生物医学和机器学习领域的研究人员讨论了未来研究的可能方向。共确定并回顾了83项研究。它们在目标的精确分类问题和用于构建和训练所选CNN的策略方面有所不同。
2022-12-14 11:58:16
3194
原创 对比学习论文综述(part3不用负样本)
对比学习论文综述(part3:不用负样本)其实第二阶段里讲的SwAV就已经有不用负样本的对比学习这个趋势了,它可以算是一个承上启下的工作,因为它也没有用负样本,它用的是聚类中心,但它毕竟还是有一个明确的对比的对象接下来要讲的BYOL和SimSiam其实就是正样本自己在玩,已经没有负样本或者聚类中心这样明确的一个对比的东西去做对比了
2022-12-13 10:19:51
681
原创 医学分割综述 MedISeg(tricks,challenges and future directions)
医学图像分割综述 MedISeg(tricks,challenges and future directions)MedISeg方面的内容通常侧重于主要贡献的介绍(例如,网络架构、训练策略和损失函数),而无意中忽略了一些边缘实现细节(也称为“技巧”),从而导致潜在的问题不公平的实验结果比较。在本文中,我们针对不同的模型实现阶段(即预训练模型、数据预处理、数据增强、模型实现、模型推理和结果后处理)收集了一系列MedISeg技巧,并通过实验探索其有效性这些技巧在一致的基线模型上。
2022-10-29 22:57:17
1386
原创 Course数字图像处理 Week3习题(Image and Video Processing: From Mars to Hollywood with a Stop at the Hospital)
Course数字图像处理 Week3习题(Image and Video Processing: From Mars to Hollywood with a Stop at the Hospital)
2022-08-23 22:39:20
1084
原创 Course数字图像处理 Week2习题(Image and Video Processing: From Mars to Hollywood with a Stop at the Hospital)
Course数字图像处理 Week2习题
2022-08-22 10:00:18
372
原创 Course数字图像处理 Week1习题(Image and Video Processing: From Mars to Hollywood with a Stop at the Hospital)
Weak1习题——Image and Video Processing
2022-08-19 22:04:43
1186
1
原创 Linux系统下如何解压压缩包内某个文件
今天处理图片数据遇到了一个问题,压缩包内东西很大,磁盘空间不足,我只需要其中一个文件的内容,该怎么做?正常对于压缩包 a.zipunzip a.zip -d 指定文件夹路径现在压缩包内若有两个文件夹 la和lb 我只需要lb可以这样写unzip a.zip '*lb/*.*' -d 指定文件夹路径即可实现。加上Linux中 文件复制操作1、将一个文件夹下的所有内容复制到另一个文件夹下假设images文件夹下还有一个文件夹val其中包括很多图片,我们想将其val文件夹复制到另一个目录
2022-05-09 16:59:13
3160
原创 PyTorch入门笔记3:TensorBoard的使用
PyTorch入门笔记3:TensorBoard的使用首先安装TensorBoard,在Pycharm终端,或者在Anaconda Promat中pip install tensorboard一、 SummaryWriterfrom torch.utils.tensorboard import SummaryWriter从函数介绍可知:这个类主要是将事件文件写入 log_dir文件夹,可以被TensorBoard解析。要用到其成员函数 add_scalar()def add_scalar(
2022-03-27 20:11:08
424
原创 PyTorch入门笔记2:PyTorch加载数据实战
PyTorch加载数据讲解一、 Dataset 和 Dataloader对于数据,我们对于已有的数据,需要用到Dataset(数据集)和DataLoader(数据加载)器。Pytorch 读取数据主要涉及两个类:Dataset和 Dataloader数据可类比为“垃圾”,不同数据是不同种类的垃圾,这里蓝色是可回收垃圾。Dataset能够把垃圾中的可回收垃圾即蓝色块给挑选出来,并对其进行编号,供后续网络的使用。而数据进入网络不会是一个个送进去,在送进去之前会进行打包,比如以一次多个的形式把数据输
2022-03-27 19:45:42
4662
原创 PyTorch入门笔记1:Python学习中的两大法宝函数
PyTorch入门笔记1:Python学习中的两大法宝函数Pytorch包(package)就像是一个工具箱,工具箱也会分好几个区,比如1,2,3,4区,每个区的工具的功能不同,现在想去探索这个工具箱的工具。通过函数 dir() 和 进行探索dir():打开,看见工具箱内部先打开 torch,可以看到torch有很多工具区,每个区提供不同功能的工具:还可以去看每个工具区里有什么工具,以AVG为例dir(torch.AVG):这些输出就是具体的工具了help():具体工具使用的说明书
2022-03-27 19:12:19
2318
原创 Pytorch入门笔记0:环境配置(重要前提)
Pytorch 环境配置说明:一般用Anaconda配置Python环境 ,使用Pycharm编辑器进行代码编辑1 Anaconda安装进入官网选择对应系统和版本进行安装,现在已更新到Python 3.9 ,我们安装最新版本即可。Anaconda | The World’s Most Popular Data Science Platform对于版本有要求的朋友可以下载对应版本针对下载有困难的,可以使用本链接(2019.10版本)相对稳定https://pan.baidu.com/s/1o_
2022-03-19 01:03:25
1891
原创 2021年4月蓝桥杯省赛javaB组题解
2021年4月蓝桥杯省赛javaB组题解A:ASC【问题描述】【答案】B:卡片【问题描述】【答案】C:直线【问题描述】【答案】F:时间显示G:最少砝码A:ASC【问题描述】已知大写字母 A 的 ASCII 码为 65,请问大写字母 L 的 ASCII 码是多少?【答案】76public class A { public static void main(String[] args) { char c1='L'; System.out.println((in
2021-07-05 10:31:58
1066
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人