- 博客(1624)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 用于语义分割的解码器 diffusion 预训练方法
当前语义分割任务存在一个特别常见的问题是收集 groundtruth 的成本和耗时很高，所以会使用预训练。例如监督分类或自监督特征提取，通常用于训练模型 backbone。基于该问题，这篇文章介绍的方法被叫做 decoder denoising pretraining (DDeP)，如下图所示。与标准的去噪自编码器类似，网络被训练用于对带有噪声的输入图像进行去噪。然而，编码器是使用监督学习进行预训练并冻结的，只有解码器的参数使用去噪目标进行优化。
2023-05-13 15:19:05
95
1
原创 MedSAM: Segment Anything in Medical Images
SAM 是一种在自然图像分割方面取得成功的模型，但在医学图像分割方面表现不佳。MedSAM 首次尝试将 SAM 的成功扩展到医学图像，并成为用于分割各种医学图像的通用工具。为了开发 MedSAM，首先需要一个大型医学图像数据集，其中包括来自 11 种不同模态的超过 20 万个 Mask。该数据集用于训练和微调 MedSAM 模型。最重要的是，提供了一种简单的微调方法，使 SAM 适应一般的医学图像分割。通过对 21 项三维分割任务和 9 项二维分割任务进行综合实验，对 MedSAM 的性能进行了评估。
2023-05-05 20:15:20
167
原创 ImgX-DiffSeg：基于 DDPMs 的 3D 医学图像分割
本篇文章继续解读医学图像 diffusion 系列，之前我们分别介绍过在自监督和有监督分割中的 diffusion 应用。链接：而这次的《Importance of Aligning Training Strategy with Evaluation for Diffusion Models in 3D Multiclass Segmentation》这篇文章并不是一种新的 diffusion 应用，而是对训练和推理策略进行优化，并适应 3D 的医学图像分割任务，参考链接在文末。
2023-04-29 16:53:45
90
原创 MedSegDiff：基于 Diffusion Probabilistic Model 的医学图像分割
在前面的一篇文章（ICLR 2023）中，我们已经介绍过了 diffusion model 在医学图像分割上的一个应用（https://mp.weixin.qq.com/s/7g3_4hHfKCAp2WQibkbzgA），推荐对 diffusion model 不了解的同学优先阅读，其中讲了一些基本概念。上一篇文章是将 diffusion 应用到自监督学习中，而 MedSegDiff 是一个有监督的框架，现在已更新到 V2 版本， V2 版本区别于 V1 使用了 Transformer，且适用于多分类。
2023-04-25 17:47:07
347
原创 基于 torch 的特征图可视化（热图）的实现
其中，example.jpg 是要可视化的图像的路径。resnet50 是使用的预训练模型，layer4[-1] 是要可视化的目标层。在 get_activation 函数中，我们定义了一个钩子（hook），以便在前向传递中保存目标层的输出。然后，我们将图像传递给模型，获取目标特征图，并计算平均特征图。最后，我们将平均特征图可视化为热图。
2023-04-21 10:43:43
75
原创 TMI 2023：对比半监督学习的领域适应（跨相似解剖结构）分割
U-Net 在医学图像分割方面已经取得了最先进的表现，但是需要大量手动注释的图像来进行训练。半监督学习（SSL）方法可以减少注释的需求，但是当数据集和注释图像数量较小时，其性能仍然受到限制。利用具有相似解剖结构的现有标注数据集来辅助训练可以提高模型性能。但是，这个方法面临的挑战是由于目标结构的外观和成像模式与现有标注数据集不同，导致解剖跨域差异。
2023-04-09 11:18:41
159
原创 ICLR 2023：基于 diffusion adversarial representation learning 的血管分割
目前对于血管分割任务，有两个问题：第一是数据量；第二是血管图像背景复杂。传统的监督方法需要大量的标签，无监督方法则因为血管图像一般背景复杂、低对比度、运动伪影和有许多微小的分支，分割结果达不到期望的准确率。对此，这篇论文引入了一种名为扩散对抗表示学习（DARL）的新架构。自监督的学习的“标注”通常来自于数据本身，其常规操作是通过玩各种各样的“auxiliary task”来提高学习表征（representation）的质量，从而提高下游任务的质量。
2023-03-25 10:19:52
186
原创 医学图像的 AI 框架 MONAI 详细教程（一）
最近在读 CVPR 2023 上和医学图像方向相关的论文，发现其中的 Label-Free Liver Tumor Segmentation 这篇论文使用了 MONAI 这个框架。之前关注过的一些医学图像的期刊论文上，也有 MONAI 的出现，加之前的导师有过推荐，所以了解学习了下。简单检索后，发现网上关于 MONAI 的中文教程还没有，后面会有一系列的很详细的关于 MONAI 的教程，都会在 GiantPandaCV 上发布。
2023-03-12 16:49:18
986
原创 CreateProcessW failed error:2 posix_spawn: No such file or directory 解决
在 ProxyCommands 中，它请求完整的路径限定符，但最好在此处使用正斜杠！发现是Windows openSSH 软件包的问题。
2023-02-22 21:03:34
499
原创 SD-AANet：Self-Distillation + 注意力模型用于小样本分割任务
本文是小样本语义分割系列的第四篇解读，每一篇的方法都具有代表性且不同，同系列的文章链接也在文末给出了（分别是 CWT-for-FSS、GFS-Seg 和 CD-FSS）。很多读者在刚学习小样本时可能觉的真的只需要少量样本就可以完成全部的学习过程，这不完全正确，实际上在训练的过程中我们仍然需要大量的样本，只不过我们在测试的时候，我们可以对未曾在训练集中出现过的测试图像类只用几张甚至一张 Support 图像（或者理解为在推理过程中用到的训练图像）来达到对所谓的 unseen 类的分割。
2022-11-08 20:44:22
627
原创 ECCV 2022：跨域小样本语义分割新基准（也提出 PATNet）
继医学图像处理系列之后，我们又回到了小样本语义分割主题上，之前阅读笔记的链接我也在文末整理了一下。小样本语义分割旨在学习只用几个带标签的样本来分割一个新的对象类，大多数现有方法都考虑了从与新类相同的域中采样基类的设置（假设源域和目标域相似）。然而，在许多应用中，为元学习收集足够的训练数据是不可行的。这篇论文也将小样本语义分割扩展到了一项新任务，称为跨域小样本语义分割（CD-FSS），将具有足够训练标签的域的元知识推广到低资源域，建立了 CD-FSS 任务的新基准。
2022-11-05 19:38:07
1321
原创 【转载】分布式训练和集合通信
分布式深度学习的通信库选择目前比较通用的是基于MPI的实现(如OpenMPI)、NVIDIA的NCCL实现，如果是在使用NVIDIA-硬件的情况下，主流的选择是NVIDIA自家的NCCL。关于NCCL、OpenMPI、Gloo的Allreduce对比，可以参考开源项目mlbench-benchmarks。该项目使用pytorch框架，在相同的GPU及软硬件环境一致的情况下，对NCCL、OpenMPI、Gloo三种通信库的Allreduce作了性能测试。
2022-10-28 21:21:40
515
原创 MICCAI 2022：使用自适应条形采样和双分支 Transformer 的 DA-Net
这是 MICCAI 2022 上的第三篇阅读笔记了，之前两篇也都可以在 GiantPandaCV 公众号搜索到。如下图所示，目前的视网膜血管分割方法按照输入数据划分有两类：image-level 和 patches-level，每一种方法都有自己的优势，如何将两者结合起来是一个需要去解决的问题，这也是 DA-Net 这篇文章的贡献之一。此外，这篇文章还提出了一个自适应的条状 Upsampling Block，我们会在后面展开介绍。
2022-10-28 19:19:07
894
原创 损失函数 Loss 设计和实现
pytorch中自带了一些常用的损失函数,它们都是torch.nn.Module的子类。因此自定义Loss函数也需要继承该类。在__init__函数中定义所需要的超参数，在forward函数中定义loss的计算方法。forward方法就是实际定义损失函数的地方，其返回值是一个标量（Scalar），而不是张量（Tensor）和向量（Vector）。也就是说如果张量或者向量的话，需要使用相关的函数将其转化为标量，例如使用torch.sum函数进行求和处理。损失函数分为经验风险损失函数和结构风险损失函数。
2022-10-04 11:48:33
1745
原创 numpy 实现 dropout 层
dropout最后是需要rescale一下的，是因为在inference的时候dropout是不work的，为了得到一个确定的输出，那么在训练的阶段，就要对每个神经元的输出结果rescale一下。可以看出dropout的输出和输入是接近的，在具体的神经网络训练任务中，参数往往都是很接近于0的，dropout的思想和目的这里就不赘述了。
2022-10-03 12:33:36
399
原创 P1287 盒子与球题解【python】
bn-1这n-1个球放入m个盒子中，然后再将球bn可以放入其中一个盒子中，方案数为 :m*f(n-1,m)设有n个不同的球，分别用b1,b2,……bn独自占一个盒子；那么剩下的球只能放在m-1个盒子中，方案数为：f(n-1, m-1)两种放法不同当且仅当存在一个球使得该球在两种放法中放入了不同的盒子。个盒子中，且不允许有空盒子。b) 球数 < 盒子数（盒子数“超支”），不成一种方案。a) 盒子数 < 0（盒子数“超支”），不成一种方案。c) 球数 = 盒子数（正好），为一种方案。现有r个互不相同的盒子!
2022-09-30 09:47:03
309
原创 img2col 卷积优化讲解
img2col 是一种实现卷积操作的加速计算策略。它能将卷积操作转化为 GEMM，从而最大化地缩短卷积计算的时间。GEMM 是通用矩阵乘 (General Matrix Multiply) 的英文缩写，其实就是一般意义上的矩阵乘法，数学表达就是 C = A x B。根据上下文语境，GEMM 有时也指实现矩阵乘法的函数接口。为什么要将卷积操作转化为 GEMM 呢？因为线性代数领域已经有非常成熟的计算接口（BLAS，Fortran 语言实现）来高效地实现大型的矩阵乘法，几乎可以做到极限优化。
2022-09-28 15:11:33
996
原创 P1613 跑路题解 【C++ 版本】
小A的工作不仅繁琐，更有苛刻的规定，要求小A每天早上在6：00之前到达公司，否则这个月工资清零。于是为了保住自己的工资，小A买了一个十分牛B的空间跑路器，每秒钟可以跑2^k千米（k是任意自然数）。小A的家到公司的路可以看做一个有向图，小A家为点1，公司为点n，每条边长度均为一千米。我们可以用一个数组F来记录，F[i][u][v]表示u到v能否通过2^i到达，这也就是1秒。我们再枚举一个点k，若F[i-1][u][k]和F[i-1][k][v]同时为真，在读入的时候我们就可以得出F[0][u][v]的值，
2022-09-28 09:12:38
259
原创 Pytorch 自动求导的设计与实现
梯度下降（Gradient Descent）及其衍生算法是神经网络训练的基础，梯度下降本质上就是求解损失关于网络参数的梯度，不断计算这个梯度对网络参数进行更新。现代的神经网络框架都实现了自动求导的功能，只需要要定义好网络前向计算的逻辑，在运算时自动求导模块就会自动把梯度算好，不用自己手写求导梯度。
2022-09-25 16:35:33
517
原创 【MICCAI 2022】PHTrans：并行聚合全局和局部表示以进行医学图像分割
这是 MICCAI 2022 的第二篇论文阅读笔记，贴下第一篇的地址：https://mp.weixin.qq.com/s/cSRc0a2gMq3NbQ8loqudCQ。我们已知的是，在医学图像分割上，已经有了许多基于 CNN 和 Transformer 的优秀混合架构，并取得了很好的性能。然而，这些将模块化 Transformer 嵌入 CNN 的方法，还有可以挖掘的空间。
2022-09-25 16:04:32
903
原创 P3879 [TJOI2010] 阅读理解题解
英语老师留了N篇阅读理解作业，但是每篇英文短文都有很多生词需要查字典，为了节约时间，现在要做个统计，算一算某些生词都在哪几篇短文中出现过。
2022-09-19 11:11:27
291
原创 MICCAI 2022：基于 MLP 的快速医学图像分割网络—UNeXt
其中关于分割有两个部分，Image segmentation I 在 Part IV, 而 Image segmentation II 在 Part V。计划对其中开放源代码和典型的方法注意解读，这次要分享的论文是其中的 UNeXt: MLP-based Rapid Medical Image Segmentation Network，arXiv 链接：https://arxiv.org/abs/2203.04967。
2022-09-18 21:08:24
1885
原创 P1536 村村通题解【并查集】
某市调查城镇交通状况，得到现有城镇道路统计表。表中列出了每条道路直接连通的城镇。市政府 “村村通工程” 的目标是使全市任何两个城镇间都可以实现交通（但不一定有直接的道路相连，只要相互之间可达即可）。请你计算出最少还需要建设多少条道路？
2022-09-17 18:05:43
231
原创 P4715 【深基16.例1】淘汰赛题解
有2n(n≤7)个国家参加世界杯决赛圈且进入淘汰赛环节。已经知道各个国家的能力值，且都不相等。能力值高的国家和能力值低的国家踢比赛时高者获胜。1 号国家和 2 号国家踢一场比赛，胜者晋级。3 号国家和 4 号国家也踢一场，胜者晋级……晋级后的国家用相同的方法继续完成赛程，直到决出冠军。给出各个国家的能力值，请问亚军是哪个国家？
2022-09-17 12:38:03
154
原创 P2234 [HNOI2002]营业额统计题解
Tiger 最近被公司升任为营业部经理，他上任后接受公司交给的第一项任务便是统计并分析公司成立以来的营业情况。Tiger 拿出了公司的账本，账本上记录了公司成立以来每天的营业额。分析营业情况是一项相当复杂的工作。由于节假日，大减价或者是其他情况的时候，营业额会出现一定的波动，当然一定的波动是能够接受的，但是在某些时候营业额突变得很高或是很低，这就证明公司此时的经营状况出现了问题。经济管理学上定义了一种最小波动值来衡量这种情况：当最小波动值越大时，就说明营业情况越不稳定。
2022-09-16 17:58:48
139
原创 P1160 队列安排题解【STL双向链表】
除上述主要操作以外，list还提供了其他一些实用的成员函数：size()返回链表内元素的个数，empty()判断链表是否为空，remove(val)用于移除所有值为val的节点，以及作为成员函数的sort()和unique()。这个“末尾位置”指的是最后一个元素再往后一位，也就是说end()所指的位置不包含有效元素，它相当于一个虚设的节点。it为该链表的一个迭代器，val为待插入的值，插入后val位于it所指位置的前一位。这段代码演示的是list提供的，用于访问内部元素的迭代器。
2022-09-16 10:14:45
370
原创 P3613 【深基15.例2】寄包柜题解
超市里有n(1≤n≤105)个寄包柜。每个寄包柜格子数量不一，第i个寄包柜有ai(1≤ai≤105)个格子，不过我们并不知道各个ai的值。对于每个寄包柜，格子编号从 1 开始，一直到ai。现在有q(1≤q≤105)1 i j kijk(0≤k≤109)k=02 i jij已知超市里共计不会超过107个寄包格子，ai。
2022-09-16 09:08:41
232
原创 归并排序的 cuda 加速分析
如果改为每个block多个thread的方式(multi-block, multi-thread)，每个block用共享内存加速读取（前面的好几步合并需要多次读取局部的共享内存，读取次数越多，使用共享内存的加速效果越明显），下一步准备试试看优化效果…作为对比，一个CPU串行版本的归并排序，与GPU并行版本的排序对比运行时间。另外手写了一个CPU串行版本的归并排序的函数mergeSort_cpu作为对比）把数组分成多段, 把相邻两段的有序数组合并，由于有很多段，因此可以并行的方式同时合并。
2022-09-15 16:46:00
155
原创 CUDA 高效策略：统计直方图以及共享内存的优化加速
直方图是用来统计像素灰度值分布的一种方法，同理也可以统计RGB色素的分布。调整图像的对比度则需要直方图分布概率，才能进行灰度变换。对于CUDA来说，可以并行读取多个像素点的值，然后进行统计，但是统计过程则是串行的。这里需要使用CUDA串行指令“原子操作”。否则会好多线程同时重复读写一个内存的内容。
2022-09-15 16:00:33
191
原创 P1443 马的遍历【BFS】
从一个点出发，搜寻另外的点，这明显是一道关于搜索的题目。，而DFS是用来解决求一个点到另一个点路径总数的问题。显然地，这题用到的是BFS。上有一个马，要求你计算出马到达棋盘上任意一个点最少要走几步。的矩阵，代表马到达某个点最少要走几步（不能到达则输出。输入只有一行四个整数，分别为。对于全部的测试点，保证。
2022-09-15 11:01:19
93
原创 CVPR 2022：Generalized Few-shot Semantic Segmentation 解读
之前已经有过关于小样本语义分割的论文解读，关于如何用 Transformer 思想的分类器进行小样本分割，链接见https://mp.weixin.qq.com/s/YVg8aupmAxiu5lGTYrhpCg。本篇是发表在 CVPR 2022 上的 Generalized Few-shot Semantic Segmentation（后文简称 GFS-Seg），既一种泛化的小样本语义分割模型。在看论文的具体内容之前，我们先了解一些前置知识。
2022-09-11 10:55:05
796
原创 CWT-for-FSS: 用 Transformer 思想的分类器进行小样本语义分割
文章目录1 前言2 CWT-for-FSS 整体架构3 求解方法4 实验结果分析5 代码和可视化6 总结7 参考链接1 前言之前写了几篇医学图像分割相关的论文阅读笔记，这次打算开个小样本语义分割的新坑。这篇阅读笔记中介绍的论文也是很久之前读过的，接受在 ICCV 上，思路值得借鉴。代码也已经跑过了，但是一直没来得及整理，arXiv：https://arxiv.org/pdf/2108.03032.pdf 。针对小样本语义分割问题，这篇论文提出一种更加简洁的元学习范式，即只对分类器进行
2022-05-21 17:41:47
790
1
Git工具64位windows.zip
2020-02-08
2019仓库管理系统课设.rar
2019-12-30
DeskTopShare.rar
2019-10-28
c选手-竞赛环境须知.doc
2019-10-28
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人