- 博客(83)
- 收藏
- 关注
RSS订阅原创 空洞卷积-语义分割中常见的结构
空洞卷积在语义分割任务中很常用到。需要对其进行理解。参考链接：https://zhuanlan.zhihu.com/p/50369448
2021-07-18 20:42:59
486
转载 BottleNeck 瓶颈层
BottleNeck 一般用于深度较高的网络，主要的作用就是减少计算的参数量。两个1X1fliter分别用于降低和升高特征维度，主要目的是为了减少参数的数量，从而减少计算量，且在降维之后可以更加有效、直观地进行数据的训练和特征提取，...
2021-07-18 20:41:11
4992
原创 Group Normalization
Group Normalization背景What's wrong with BN ？How GN work ?Why GN work ?背景Group Normalization 是有吴育昕和何恺明联合提出。参考文献：[1] Wu, K. He, Group normalization, in: Proceedings of the European Conferenceon Computer Vision (ECCV), 2018, pp. 3–19What’s wrong with BN ？
2021-07-18 20:04:50
442
原创 计算机视觉系列五（图像分割/目标检测/实例分割）
图像分割，目标检测和实例分割都是基于图像分类任务的延伸。其中图像分割主要是针对上采样的工作实例分割又是在目标检测的基础上进行的这章主要记录语义分割相关的知识，对目标检测和实例分割的学习，可参考视频这里需要注意的是：要知道卷积本应该是滑动窗口如何转换成矩阵求和的形式。ps：Unet的短连接拼接的特征，是由于一些简单的类别在高层语义上显示不出来，这些低级的语义信息字低层才会存在，所以进行各层的concate就是为了补充低层的语义信息。...
2021-04-04 20:12:03
898
原创 计算机视觉系列四（经典网络分析）
网络结构从几个角度进行分析：层数统计每层的结构创新点AlexNetps:计算网络层数时，只记录卷积层和全连接层第一层 (CONV1): 96 个11x11 卷积核，步长为 4，没有零填充Max POOL1: 窗口大小3x3，步长为 2局部相应归一化层（NORM1）[后来研究表明，提升效果并不好]第二层 (CONV2): 256 个5x5 卷积核，步长为 1，使用零填充p=2第三、四层 (CONV3、CONV4): 384 个3x3 卷积核，步长为 1，使用零填充 p=1第.
2021-04-04 18:54:56
405
原创 计算机视觉系列三（卷积/图像去噪/边缘提取/纹理表示/卷积神经网络）
这一节，十分建议去看一下老师的讲解，老师从图像处理的角度来引入，层层点透了卷积神经网络中每个部分的原因以及要干的事情。视频连接：https://www.bilibili.com/video/BV1V54y1B7K3?p=9&spm_id_from=pageDriver p7,p8图像处理的基本操作-卷积老师介绍了图像噪声，以及传统的降噪方式。进行去噪的过程都是卷积，图像处理中的卷积和我们深度学习中常用的卷积不是一个定义，自己需要区别去认识，不要混淆和纠结卷积神经网络中要不要将卷积核翻转。卷
2021-04-04 15:09:29
2638
原创 计算机视觉系列二（全连接神经网络）北京邮电大学-鲁鹏
全连接神经网络1、概览2、分类模型2.1 多层感知机全连接神经网络级联多个米那换来实现输入到输出的映射。因为线性只能解决线性可分的问题，所以引入全连接来解决非线性可分的问题。在线性分类器中，表示了每个类别的模板在非线性分类器中，自己可以定义多个模板，来充分的表示输入。2.2 激活函数常用的激活函数及其优缺点。3、损失函数3.1 softmax与交叉熵softmax可以把分数数值变换为概率，由于分数可能为负数，所以采用了指数幂的方式来计算各个分数的占比。有了各个类别的概率，引入了
2021-04-04 12:03:58
353
原创 计算机视觉系列一（前言/图像分类/线性分类器）-北京邮电大学-鲁鹏
目录计算机视觉的目标图像中包含哪些信息？计算机视觉的研究进展1、图像分类1.1 什么是图像分类任务，它有哪些应用场合1.2 图像分类任务有哪些难点？1.3 基于规则的方法是否可行？1.4 什么是数据驱动的图像分类范式1.5 常用的分类任务的评价指标是什么？2、线性分类器2.1 准备数据2.2关于分类模型2.3损失函数问题思考：2.4 优化算法2.5 数据集的划分2.6 数据预处理3、答案4、作业计算机视觉的目标跨越语义鸿沟，建立像素到语义的映射图像中包含哪些信息？语义信息；三维场景的结构信息计
2021-04-03 20:03:39
597
原创 医学图像分割中的问题，概念复习
1、医学图像数据量少怎么解决？根据数据特性，对数据进行数据增强处理，目前分为线上数据增强和线下数据增强。线下数据增强，未训练之前对数据进一步扩增。适合小数据量。线上数据增强，在训练时，对小批量的图像进行增强。适合大数据集。优化模型简化模型正则化集成学习dropout腾讯提出了一个用于3D医疗影像预训练的MedicalNet。利用迁移学习。基于底层的一些特征是类似的，可以进行迁移尝试。利用GAN去生成，但是考虑医疗图像对准确度要求高，思考GAN合成数据的可信度
2021-04-03 10:02:05
2145
原创 激活函数你知道多少？记得复习
常见的激活函数1、Sigmoid优点： 它能够把输入的连续实值变换为0和1之间的输出，特别的，如果是非常大的负数，那么输出就是0；如果是非常大的正数，输出就是1.。缺点： 在深度神经网络中梯度反向传递时导致梯度爆炸和梯度消失，其中梯度爆炸发生的概率非常小，而梯度消失发生的概率比较大Sigmoid 的 output 不是0均值（即zero-centered）。这是不可取的，因为这会导致后一层的神经元将得到上一层输出的非0均值的信号作为输入。 产生的一个结果就是：如x>0, x>0,
2021-04-03 09:40:45
155
原创 unable to get repr for ＜class ‘torch.Tensor‘＞错误可能原因
自己在做语义分割的时候，出现了这个问题：unable to get repr for ＜class ‘torch.Tensor‘＞自己使用了pycharm进行了模型训练，错误提示为：RuntimeError: CUDA error: device-side assert triggered根据错误提示信息找到了出错位置在损失函数使用的地方，在训练的损失函数位置加了断点，进行调试，发现了 unable to get repr for ＜class ‘torch.Tensor‘＞ 的错误信息。我出错的原因
2021-03-23 18:36:26
17346
7
原创 pytorchtools的使用-早停机制（EarlyStopping）
在pytorch中利用earlystopping。通过学习github源进行下面的笔记记录。早停机制是一种正则化的手段，用于避免训练数据集上的过拟合。早期停止会跟踪验证损失（val_loss），如果损失连续几个 epoch 停止下降，训练就会停止。pytorchtool.py 中的 EarlyStopping 类用于创建一个对象，以便在训练 PyTorch 模型时跟踪验证损失。每次验证丢失减少时，它都会保存模型的一个检查点我们在EarlyStopping类中设置了patience参数，即在最后一次验
2021-03-23 17:55:19
6520
原创 剑指offer-位运算-不用加减乘除做加法（python3）
题目：写一个函数，求两个整数之和，要求在函数体内不得使用 “+”、“-”、“*”、“/” 四则运算符号。位运算python的存储方式计算机的存储方式：原码，反码，补码为什么用补码？进制之间的转换，各个进制的表示参考链接：https://blog.csdn.net/lrs1353281004/article/details/87192205这为同学写的比较全。...
2021-03-05 15:46:44
83
原创 论文阅读（12）-优化医学图像分割的Dice 得分和Jaccard 指数: 理论与实践
目录Optimizing the Dice Score and Jaccard Index for Medical Image Segmentation: Theory & Practice摘要1、引言2、Dice的损失最小化与其相关性3、实验设置4、结果和讨论5、结果Optimizing the Dice Score and Jaccard Index for Medical Image Segmentation: Theory & Practice摘要Dice 系数和Jaccar
2021-03-05 10:29:48
3596
1
原创 深度之眼AI竞赛知识点总结
根据表情识别比赛来细化描述一下具体的工作内容：1、分析数据 清楚任务的目的，数据集的分类情况，格式和存在的问题等小细节都要搞清楚2、工具的选择，和制定pipeline工具的选择指的是，你使用的框架，工具包具体的信息等。制定pipeline：该任务的处理流程，小任务一个个的内容与顺序。一般在比赛中，我们都要先制定的一个简单大概的pipeline，随后再根据实际的问题进一步细化。例如 表情识别可分为两个大任务，数据预处理和模型建模。数据预处理的pipeline：截取人脸->放缩和裁剪-&g.
2021-03-02 20:24:50
295
原创 论文阅读（12）KAPPA损失函数在全卷积网络皮肤病变分割中的应用
目录KAPPA LOSS FOR SKIN LESION SEGMENTATION IN FULLY CONVOLUTIONAL NETWORK摘要引言KAPPA LOSS FOR SKIN LESION SEGMENTATION IN FULLY CONVOLUTIONAL NETWORK摘要黑色瘤病很严重需解决CAD诊断方式的引入CNN的引入，损失函数在神经网络训练中起到重要作用本文提出了一种基于KAPPA系数的损失函数该类损失函数较于Dice 损失函数的不同关键字：图像分割，黑色素
2021-03-02 14:55:03
1089
2
原创 论文阅读（11）-具有上下文信息融合结构的多阶段皮肤病变分割框架
目录A MULTI-STAGE FRAMEWORK WITH CONTEXT INFORMATION FUSION STRUCTURE FOR SKIN LESION SEGMENTATION摘要A MULTI-STAGE FRAMEWORK WITH CONTEXT INFORMATION FUSION STRUCTURE FOR SKIN LESION SEGMENTATION摘要
2021-03-01 20:44:28
638
原创 论文阅读（10）一种用于皮肤病变分割的改良U-Net结构
目录A Modified U-Net for Skin Lesion Segmentation摘要引言A Modified U-Net for Skin Lesion Segmentation摘要编解码结构，基于空洞卷积和金字塔池化模块（PPM）在ISBI 2016的数据集上，结果：JC = 82.7, DC = 89.6, SE = 92.0引言...
2021-02-21 21:33:57
1314
2
原创 AI大赛经验总结--深度之眼课程总结（1）
比赛经验总结1、比赛前的准备2、提高自己的知识水平3、选择比赛4、比赛流程5、组队和交流6、在比赛中学习7、总结比赛8、求职1、比赛前的准备选择操作系统（macOS，Windows，Linux）选择硬件环境管理工作环境2、提高自己的知识水平学习机器学习和深度学习基础知识，学习机器学习和深度学习的框架寻找自己喜欢的方向学习相关领域的学科知识，把握发展动态，如关注机器之心、量子位、CVer等公众号；或是关注medium和推特上的相关博主，每天看看GitHub上的trending，逛逛arx
2021-01-29 07:52:28
984
原创 论文阅读（9）通过堆叠对抗式学习改善皮肤病变的分割能力
目录Improving Skin Lesion Segmentation via Stacked Adversarial Learning摘要1、引言指出FCN对于医学语义分割的限制为了应对上述问题，一些研究人员的工作主要集中在本文提出的解决方案2、方法和材料2.1 全卷积神经网络2.2 堆叠对抗学习（GAN）用于皮肤病变分割2.3 对抗学习提高分割精度3、 结果和讨论3.1 试验设置3.2 结果4、结论和未来的工作Improving Skin Lesion Segmentation via Stacke
2021-01-03 20:09:46
538
原创 论文阅读（8）对计算机视觉的Inception架构的反思
目录Rethinking the Inception Architecture for Computer Vision摘要1、引言2、通用的设计原则3、大尺寸滤波器的因式分解3.1 大卷积转换成小卷积3.2 分解为非对称卷积4、辅助分类器的使用5、有效降低特征图的大小6、Inception V27、基于标签平滑的模型正则化（LSR）8、训练方法9、低分辨率图像的识别10、实验结果和比较11、结论Rethinking the Inception Architecture for Computer Visio
2021-01-03 16:06:45
218
原创 论文阅读（7）基于循环残差卷积神经网络(R2U-Net)的医学图像分割
目录Recurrent Residual Convolutional Neural Network based on U-Net (R2U-Net) for Medical Image Segmentation摘要1、引言深度卷积神经网络 work的原因：医学图像分割的局限性：本文的目的本文的工作：2、相关工作3、RU-Net，R2U-Net方法4、实验设置与结果4.4 皮肤癌分割5、结论与未来展望Recurrent Residual Convolutional Neural Network based
2021-01-02 19:36:07
4792
4
原创 论文阅读（6）用集合深度学习方法在皮肤镜图像中进行皮肤病变分割
目录Skin Lesion Segmentation in Dermoscopic Images With Ensemble Deep Learning Methods摘要1、 引言2、用于皮肤病变分割的深度学习方法3、方法3.1 数据集ISIC2017数据集PH2数据集3.2 用于皮肤病变分割的集成方法3.2.1 预处理3.2.2 DEEPLABV3+3.2.3 MASK R-CNN3.2.4 后处理3.2.5 集成方法3.3 性能指标3.4 实验和结果3.4.1 与ISIC Challenges 201
2021-01-02 13:35:07
5922
4
原创 论文阅读（5）利用C-UNet进行皮肤病变分割
目录Skin Lesion Segmentation with C-UNet摘要1、引言2、方法2.1数据集2.2 C-UNet 结构2.3 训练2.4 利用Dice损失函数进行微调3、结果4、讨论Skin Lesion Segmentation with C-UNet摘要本文主要是为了解决皮肤病变分割的问题。C-UNet整合了类似Inception卷积模块，循环卷积块和空洞卷积。在用常用的交叉熵损失训练模型后，本文还应用了一种使用Dice损失的微调技术。利用条件随机场用于进一步平滑预测标签图。该模型
2021-01-01 20:31:55
3429
5
原创 论文阅读（4）基于卷积神经网络的自适应颜色增强在皮肤深层病变分割中的应用
目录基于卷积神经网络的自适应颜色增强在皮肤深层病变分割中的应用摘要1、引言2、人工数据增强2.1 颜色增强2.2 空间增强3、 网络结构4、结果5、讨论5.1 色彩增强的有效性--学习效果5.3 重用基于颜色的分割特征6、结论基于卷积神经网络的自适应颜色增强在皮肤深层病变分割中的应用摘要问题背景：皮肤病变全自动检测系统对于恶性黑素瘤的早期诊断和预防有作用。存在的问题：被注释的皮肤镜筛查图像的illumination spectrum问题，该问题和颜色空间有关解决方案:提出了一种自适应颜色增强技术
2020-12-28 19:09:52
903
4
原创 论文阅读（3）-基于改进的U-Net的皮肤病变分割
目录Skin Lesion Segmentation Based on Improved U-net摘要1、引言2、提出的方法2.1 预处理模块2.2 基于DCNN的分割2.3 集成技术2.4 图像增广(数据增强)3、实验和结果3.1 数据集3.2 实现3.3 评价准则3.4 结果与分析4、结论和将来的工作Skin Lesion Segmentation Based on Improved U-net摘要黑色瘤问题背景，表明其亟待解决指明皮肤病变分割是解决该问题的重要步骤指明目前解决方案仍然存在
2020-12-27 20:05:42
2780
10
原创 论文阅读（2）-用于皮肤病变分割的聚合多分辨率跳跃连接的深度卷积编解码器
目录Deep Convolutional Encoder-Decoders with Aggregated Multi-Resolution Skip Connections for Skin Lesion Segmentation摘要1、引言Deep Convolutional Encoder-Decoders with Aggregated Multi-Resolution Skip Connections for Skin Lesion Segmentation摘要皮肤黑色素瘤的患病率正在迅速
2020-12-26 16:08:19
1171
2
原创 论文阅读（1）-基于多任务U-Net的病灶属性分割算法
目录Lesion Attributes Segmentation for Melanoma Detection with Multi-Task U-Net摘要1、引言2、方法2.1 数据2.2 多任务模型2.3模型训练3 、结果4、讨论Lesion Attributes Segmentation for Melanoma Detection with Multi-Task U-Net摘要黑色素瘤是全球最致命的皮肤癌。基于皮肤镜图像的深度学习，已经为黑色素瘤的早期检测做出了许多努力。识别特定的病变模式
2020-12-25 18:36:44
2666
翻译 使用了Adam等自适应优化算法，为什么还需要自己调整学习率？
目录The Marginal Value of Adaptive Gradient Methods in Machine Learning（机器学习中自适应梯度方法的边缘值）摘要1、引言2、背景2.1相关工作3、自适应方法的缺点3.1非自适应方法3.2自适应方法3.3自适应方法导致过拟合问题4 、深度学习实验4.1 调整超参数4.2 卷积神经网络的选择---针对试验进行设置5、结论The Marginal Value of Adaptive Gradient Methods in Machine Lear
2020-12-25 16:29:35
7888
转载 我的模型有多快？
原文链接：https://machinethink.net/blog/how-fast-is-my-model/在移动设备上进行深度学习时，模型预测能力有多好并不是唯一的考虑因素。你还需要考虑：空间占用：单个模型的参数文件要占用多大空间运行时内存占用：在iPad和iPhone上，GPU会使用大部分的RAM，留下部分。如果模型全部使用了，该应用程序会被操作系统终止运行速度：特别是在处理实时视频或大型图像时（如果模型需要几秒钟来处理一张图像，你可能会更好地使用云服务）耗电情况：设备耗电快热得快衡
2020-12-17 13:07:11
218
1
原创 理论学会了，如何去使用？
深度学习算法，无非就是我们解决一个问题的方法根据特定的任务去选择什么样的网络去训练选择什么样的预处理选择什么loss和优化方法训练一个深度学习模型分为三步：数据加载：数据怎么加载，标签怎么定义，用什么数据增强的方法模型选择：自己制定的网络模型算法选择：选择什么loss，什么优化算法数据加载pytorch 提供了一个框架，可以自定义我们数据加载的方式（数据怎么加载，标签怎么定义，用什么数据增强的方法）[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-B
2020-12-17 13:05:57
137
1
原创 总结该问题解决方案：OMP: Error #15: Initializing libiomp5md.dll, but found libiomp5md.dll already initialized
问题描述：两天没有碰过用过机器，之后今天打算跑一个代码，直接报错：OMP: Error #15: Initializing libiomp5md.dll, but found libiomp5md.dll already initialized具体原因目前不知道是因为啥,情况一：之前没有任何下载安装等其他异常操作，则直接使用的时候报错了。可以检查一下自己anaconda的安装路径中是否存在两个该dll文件。比如我在pycharm中使用的是虚拟环境pytoch1.7，在pycharm的右小角可
2020-12-03 13:33:31
98148
115
原创 Linux系统问题记录-开机失败，图形界面打开失败，循环登录错误，数据恢复问题（待解决）
解决过程实验室的机器是双系统的，好几个人使用，之后有一次周末出现了循环登录的问题。之后学长解决了问题，但是没有记录解决办法。神奇的事情发生了，下一周的周末又出现了这个问题，em…不知道原因。只知道在循环登录问题出现时，录了个视频，看到了一闪而过的错误信息提示：/dev/sda6. xxxxx files, xxxx blocks解决方法：（没有实践，但大都是说驱动的事情）大家可以试试：我是个参考链接我的解决方案：之前学长提到说可能是我挂载的硬盘的问题，建议我把硬盘拔了重启一下，他之前也是这么做的（只
2020-11-23 15:45:27
613
转载 彻底卸载Anaconda--记录
彻底卸载Anaconda如果你想彻底卸载anaconda, 包括配置文件，请直接看Solution B。[官方参考链接]。Solution A通常卸载软件，直接运行uninstall就可以了，对于anaconda也一样，可以直接运行安装目录下的 Uninstall-Anaconda3.exe 即可，但是这样卸载并没有完全卸载。如果需要完全卸载请参考 Solution BSolution B通过B方式卸载，请确保还没有通过A方式进行卸载。 1.安装 Anaconda-Clean packa
2020-11-16 14:12:14
634
1
原创 问题：IsADirectoryError:【Error 21】Is a directory:‘xxxx_path/.checkpoints‘
问题描述问题：IsADirectoryError:【Error 21】Is a directory:‘xxxx_path/.checkpoints’问题分析：根据我的代码进行分析可以看出，该问题出现在遍历获取数据的时候。其中 .ipynb_checkpoints 这个文件为隐藏文件。找到把该文件删除就好了。.ipynb_checkpoints 文件是 notebook 运行出错的时候会生成.ipynb_checkpoints的隐藏文件，很可能导致你在该目录下寻找其他文件出错。在window
2020-11-13 10:01:18
14550
2
原创 Pytorch使用可视化工具Tensorboard 采坑记录
Tensorboard坑一：开启 tensorboard 的命令坑一：开启 tensorboard 的命令不知道什么时候起，tensorboard的文件地址不需要用引号包裹了，如：tensorboard --logdir=runs之前都还需要用单引号 进行包裹。需要注意的是，我加了单引号就真的出错误了：No dashboards are active for the current data set.去掉单引号就解决此问题了。...
2020-11-09 12:03:25
1043
原创 数据处理与机器学习（大致进行了解学习）
数据处理与机器学习简介章节1、Python编程基础、科学计算基础库NumpyPython语言编程基础大概浏览Numpy-科学计算基础库（ndarray+ufunc）2、数据处理与统计分析Pandas、可视化Matplotlib数据处理与统计分析PandasMatplotlib3、网络数据爬虫及信息抽取（request\BeautifluSoup）4、机器学习与数据挖掘分析（Scikit-learn）5、深度学习6、自然语言分析处理简介学习掌握使用Python编程语言来开展数据分析全流程，包含数据抓取、
2020-11-03 14:13:04
1966
1
原创 轻量化网络+轻量化语义分割网络的评价参数的理论计算与实际计算
参数数量1.定义2.理论计算公式3.pytorch计算应用1.定义参数数量（params）：指模型含有多少参数，直接决定模型的大小，也影响推断时对内存的占用量单位通常为 M，通常参数用 float32 表示，所以模型大小是参数数量的 4 倍左右参数数量与模型大小转换示例：10M float32 bit = 10M × 4 bytes = 40Mb理论计算量（FLOPs）：指模型推断时需要多少计算次数是 floating point operations 的缩写（注意 s 小写），可以用
2020-10-27 16:38:35
1706
原创 Pytorch-TORCHVISION.TRANSFORMS(transforms模块)索引
TORCHVISION.TRANSFORMS简介1、Transforms on PIL Image（对PIL图像进行处理）1-1：torchvision.transforms.CenterCrop(size)1-2:torchvision.transforms.ColorJitter(brightness=0, contrast=0, saturation=0, hue=0)1-3：torchvision.transforms.FiveCrop(size)1-4：torchvision.transforms
2020-10-16 12:24:36
1036
翻译 pytorch-保存和加载模型
pytorch保存和加载模型简介1、state_dict是什么？2、在预测过程中保存和加载模型2.1仅保存模型参数（推荐存储方式）2.2 保存整个模型（不推荐的）3、保存和加载常规检查点(针对测试和恢复训练)保存加载4、在一个文件中保存多个模型5、使用一个不同模型的参数来预训练模型6、跨设备保存和加载模型6.1 保存在GPU上，在CPU上加载6.2保存在 GPU 上，加载在 GPU 上6.3保存在CPU上，加载到GPU上6.4保存torch.nn.DataParallel模型简介pytorch与保存、加
2020-10-09 16:22:24
1767
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人