2021年06月_理想不闪火

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创【深度学习】基于注意力机制的Transformer处理医疗影像

文章目录1 前言2 Self-Attention3 Multi-Head Attention4 MedT：用于医学图像分割的Transformer5 基于Transformer的端到端视频实例分割方法1 前言注意力（Attention）机制由Bengio团队与2014年提出并在近年广泛的应用在深度学习中的各个领域，例如在计算机视觉方向用于捕捉图像上的感受野，或者NLP中用于定位关键token或者特征。谷歌团队近期提出的用于生成词向量的BERT算法在NLP的11项任务中取得了效果的大幅提升，.

2021-06-29 11:33:32 1525

原创【机器学习】通俗的k-近邻算法算法解析和应用

文章目录1 概述1 概述

2021-06-29 11:33:15 963

原创【深度学习】Transformer解决计算机视觉问题（卷中卷）

文章目录1 前言2 VIT3 图像序列patches4 哪种结构更高效？5 DETR 5.1 architecture 5.2 Transformer6 Set prediction loss7 底层视觉任务如何使用 Transformer1 前言将Transformer应用到CV任务中现在越来越多了，这里整理了一些相关的进展给大家。Transformer结构已经在许多自然语言处理任务中取得了最先进的成果。Transformer 模型的一个主要的突破可能是今年年中发布的GPT-.

2021-06-29 11:33:02 446

原创【深度学习】Transformer在语义分割上的应用探索

【深度学习】Transformer在语义分割上的应用探索文章目录1 Segmenter2 Swin-Unet：Unet形状的纯Transformer的医学图像分割3 复旦大学提出SETR：基于Transformer的语义分割4 Cell-DETR：基于Transformer的细胞实例分割网络5 总结1 Segmenter图像分割在单个图像patches级别通常是ambiguous，需要上下文信息才能达成标签共识。在本文中，我们介绍了Segmenter，这是一种用于语义分割的Transfo

2021-06-26 08:56:29 2369 1

原创【深度学习】Swin Transformer结构和应用分析

【深度学习】Swin Transformer结构和应用分析文章目录1 引言2 Swin Transformer结构3 分析 3.1 Hierarchical Feature Representation（层次特征表示） 3.2 降采样 3.3 局部dependency4 总结5 代码测试1 引言目前Transformer应用到图像领域主要有两大挑战：视觉实体变化大，在不同场景下视觉Transformer性能未必很好图像分辨率高，像素点多，Transformer基于全局自注意力的

2021-06-26 08:56:16 2049

原创【深度学习】深入浅出transformer内部结构

文章目录1 概述2 Self-Attention与Transformer1 概述Transformer由且仅由self-Attenion和Feed Forward Neural Network组成。Transformer的Encoder和Decoder均由6个block堆叠而成。Encoder的结构如下图所示2 Self-Attention与TransformerTransformer模型的整体结构如下图所示这里面Multi-head Attention其实就是多个Self-Attent

2021-06-25 14:43:51 363

原创【深度学习】深入浅出transformer解决并行计算问题

【深度学习】用CNN的结构打败CNN(深入浅出transformer)文章目录1 transformer的基本结构2 模块1：Positional Embedding3 模块2：Multi-Head Attention4 模块3：ADD5 Transfomer总结7 配置、使用transformers包1 transformer的基本结构2 模块1：Positional EmbeddingP E PEPE模块的主要做用是把位置信息加入到输入向量中，使模型知道每个字的位置信息。对于每.

2021-06-25 14:43:38 1305

原创【深度学习】softmax后处理和弹性形变前处理

【深度学习】softmax后处理和弹性形变前处理文章目录1 softmax的一个例子2 后处理：通过平均来集成softmax概率3 神经网络中的蒸馏技术，从Softmax开始说起4 softmax加权集成5 弹性形变前处理1 softmax的一个例子首先咱们先来规定一些参数,首先假设分割的前景目标一共有三种类别(行人, 车辆,红绿灯),分割图片的大小依然是200*200.那么题主在问题中描述的,40000个像素都各有一个值是不准确的,准确的说,是40000个像素都各有4个值,softmax

2021-06-24 07:21:32 565

原创【深度学习】图像输入网络必要的处理流程

【深度学习】图像输入网络必要的处理流程文章目录1 图像处理之灰度转化2 归一化3 CLAHE4 伽马矫正5 Data augmentation 5.1 裁剪（Crop） 5.2 缩放（Scale） 5.3 翻转（fillip） 5.4 旋转（rotate） 5.5 图像数据增强之弹性形变（Elastic Distortions）1 图像处理之灰度转化灰度转化目的：将三通道图像（彩色图）转化为单通道图像（灰度图）公式：3–>1: GRAY = B * 0.114 +

2021-06-24 07:21:14 553

原创【深度学习】新的深度学习优化器探索（协同优化）

【深度学习】新的深度学习优化器探索（协同优化）文章目录1 RAdam VS Adam2 自适应优化3 LookAhead 3.1 “侵入式”优化器 3.2 LookAhead 中的参数：4 RAdam 加 LookAhead 的一个实现：Ranger1 RAdam VS Adam1,目的想找到一个比较好的优化器，能够在收敛速度和收敛的效果上都比较好。目前sgd收敛较好，但是慢。adam收敛快，但是容易收敛到局部解。常用解决adam收敛问题的方法是，自适应启动方法。2，adam

2021-06-24 07:21:05 410

原创【深度学习】深入浅出 CRF-RNN Layer（The End-to-end）

【深度学习】深入浅出 CRF-RNN Layer（The End-to-end）文章目录1 概述2 Initialization3 Message Passing4 Re-weighting5 Compatibility Transform6 Adding Unary Potentials7 Normalization1 概述本文所述方法有三个要点：用训练的方式求解CRF。把CRF挂在一个FCN后边，一起训练。求解CRF时，用独立分布近似真实分布，其算法可以包装成一个RNN。

2021-06-24 07:02:43 569

原创【深度学习】论文EMO单眼识别分析

【深度学习】论文EMO单眼识别分析文章目录1 研究背景2 所提方法3 创新点4 实验结果5 结论与思考1 研究背景情绪是一种心理和生理状态，伴随着认知过程。对情绪的研究已经存在了很长时间。近年来，随着人工智能和深度学习的发展，利用人的生理信号参数，如脑电、心电、体温等自动识别情绪已经获得较大进展，而且情感计算这一领域在医疗保健，教育，产品设计等领域具有广泛的潜在应用前景。许多研究表明存在情绪刺激的情况下，眼球运动会发生变化，而且眼动数据的采集比脑电等数据更简单，更方便快捷，研究基于眼动的

2021-06-23 11:37:55 703

原创【Java Web开发指南】mybatis的Example[Criteria]的使用

Criteria英文是标准、条件和准则的意思**在使用常规的mybatis时，我们经常碰到的问题就是条件式查询。在一个查询界面，查询条件较多，并且运算符并不总是=时，在后台就需要拼装sql语句。**这种处理方式肯定不是使用mybatis的初衷，**对于使用了hibernate的我来说，如果mybatis也有一套criteria查询就好了。**在具体实现中，我们只需要按照hibernate的处理方式定义好相应的criteria，最后传递给mybatis，其自身处理相应的条件和参数信息，最终返回相应的数据即可

2021-06-22 20:30:56 4398 1

原创【深度学习】详解集成学习的投票和Stacking机制

【深度学习】详解集成学习的投票和Stacking机制文章目录1 基础原理 1.1 硬投票 1.2 软投票2 pytorch综合多个弱分类器，投票机制，进行手写数字分类（boosting）3 Stacking原理4 Stacking分类应用5 kaggle气胸病灶图像分割top4解决方案1 基础原理在所有集成学习方法中，最直观的是多数投票。因为其目的是输出基础学习者的预测中最受欢迎（或最受欢迎）的预测。多数投票是最简单的集成学习技术，它允许多个基本学习器的预测相结合。与选举的工作方式类

2021-06-22 16:30:58 1862

原创【深度学习】模式识别技术探索之决策树（Decision tree）

【深度学习】模式识别技术探索之决策树（Decision tree）文章目录1 什么是模式和模式识别？2 常见的模式识别系统3 应用领域4 举例：随机森林（Random Forest） 4.1 基本思想 4.2 决策树 – Decision tree 4.3 3 种典型的决策树算法4.4 实现1 什么是模式和模式识别？当我们人眼看到一幅画时，我们能够很清晰的知道其中哪里是动物，哪里是山，水，人等等，但是人眼又是如何识别和分辨的呢，其实很简单，人类也是在先验知识和对以往多个此类事物

2021-06-22 16:29:59 427

原创【深度学习】医学图像分割多标签损失函数和极坐标变换

【深度学习】医学图像分割多标签损失函数和极坐标变换文章目录1 基于分布的损失函数2 基于区域的损失函数3 基于边界的损失函数4 多标签损失函数5 极坐标变换1 基于分布的损失函数基于分布的损失函数旨在最小化两种分布的差异。这一类中最基本的是交叉熵，其他的都是基于交叉熵变换来的。cross entropy（CE）交叉熵是从Kullback-Leibler(KL)散度推导出来的，它是衡量两种分布之间不同的度量。对于一般的机器学习任务，数据的分布是由训练集给出的。因此最小化KL散度等价于

2021-06-20 10:26:24 675

原创【深度学习】详解Resampling和softmax模型集成

【深度学习】详解Resampling和softmax模型集成文章目录1 图像重采样 1.1 次级采样（sub-sampling） 1.2 高斯金字塔（Gaussian pyramids） 1.3 上采样（upsampling)2 医学图像预处理之重采样3 医疗图像重采样代码分析4 softmax集成5 在图像分割中用于多通道conv2d输出的Sigmoid或Softmax1 图像重采样图像重采样包含两种情形，一种是下采样（downsampling），把图像变小；另一种是上采样（up

2021-06-18 11:32:50 359

原创【深度学习】如何将Voting和Stacking等应用到神经网络模型

【深度学习】如何将Voting和Stacking等应用到神经网络模型1 网络“快照”集成法(snapshot ensemble)2 多模型集成3 投票4 Stacking：集成学习策略图解5 多模态(RGB-D)——Ensemble Learning6 Softmax：将输出转换为概率1 网络“快照”集成法(snapshot ensemble)深度神经网络模型复杂的解空间中存在非常多的局部最优解经典的SGD方法只能让网络模型收敛到其中一个局部最优解snapshot ensemble

2021-06-18 11:32:40 794 1

原创【深度学习】解析深度学习的集成方法

【深度学习】解析深度学习的集成方法文章目录1 前言2 使用集成模型降低方差3 如何集成神经网络模型 3.1 Varying Training Data 3.2 Varying Combinations 3.3 总结4 深入了解模型融合Ensemble(深度+代码) 4.1 Voting ensembles（投票） 4.2 averaging（平均）5 集成学习的投票机制（Voting mechanism about ensemble learning）1 前言神经网络具有很高的

2021-06-18 11:32:25 1089

原创【深度学习】快照集成等网络训练优化算法系列

【深度学习】快照集成等网络训练优化算法系列文章目录1 什么是快照集成?2 什么是余弦退火学习率？3 权重空间中的解决方案4 局部与全局最优解5 特别数据增强6 机器学习中解决数据不平衡问题 6.1 重新采样训练集 6.2 使用K-fold交叉验证7 集群丰富类1 什么是快照集成?快照集成一句话概括就是在同一个训练过程中，将不同节点的，且存在多样性的模型保存下来，再用于集成。这里有两个需要关注的点。第一点是“同一个训练过程”。不同于一般的集成方法，快照集成不需要重新训练模型，而

2021-06-18 11:32:14 494

原创【深度学习】深入浅出CRF as RNN（以RNN形式做CRF后处理）

【深度学习】深入浅出CRF as RNN（以RNN形式做CRF后处理）文章目录1 概述2 目标3 思路4 简述5 论文原文 5.1 Introduction 5.2 相关工作 5.3 关键步骤6 仓库代码1 概述条件随机场（CRF或CRFs）与隐马尔科夫模型有着千丝万缕的联系。为了理解CRF，这里先简单说一下马尔科夫链（MC, Markov Chain）和隐马尔科夫模型。1.1 马尔科夫链马尔科夫链是指具有马尔可夫性质且存在于离散指数集合状态空间内的随机过程。那么什么是马尔科夫

2021-06-18 11:32:01 701

原创【深度学习】带有 CRF-RNN 层的 U-Net模型

【深度学习】带有 CRF-RNN 层的 U-Net模型文章目录1 图像语义分割之FCN和CRF2 CRF as RNN语义分割3 全连接条件随机场与稀疏条件随机场的区别4 CRF as RNN5 带有 CRF-RNN 层的 U-Net6 超参数和结果7 Edge-aware Fully Convolutional Network1 图像语义分割之FCN和CRF介绍图像语义分割，简单而言就是给定一张图片，对图片上的每一个像素点分类从图像上来看，就是我们需要将实际的场景图分割成下面的分

2021-06-18 11:31:52 1011

原创【深度学习】计算机视觉相关技术探索（一）

【深度学习】计算机视觉相关技术探索（一）文章目录1 计算机视觉概述2 使用机器学习解决图像分类问题3 Keras和神经网络简介4 卷积神经网络（CNN），迁移学习5 对象检测问题6 yolo回归型的物体检测7 图像分割和注意力模型8 NLP和图像字幕的基础9 低层次视觉-生成对抗网络（GAN）10 视频分析11 视觉SLAM（二维到三维）1 计算机视觉概述计算机视觉是一门研究如何使机器“看”的科学，更进一步的说，就是是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉

2021-06-18 11:31:42 268

原创【机器学习】集成学习与模型融合方法举例

【机器学习】集成学习与模型融合方法举例文章目录1 概述 1.1 什么是集成学习2 CrossValidation 交叉验证3 stacking4 Voting投票器5 Bagging1 概述1.1 什么是集成学习所谓“三个臭皮匠赛过诸葛亮”的道理，在机器学习数据挖掘的工程项目中，使用单一决策的弱分类器显然不是一个明智的选择，因为各种分类器在设计的时候都有自己的优势和缺点，也就是说每个分类器都有自己工作偏向，那集成学习就是平衡各个分类器的优缺点，使得我们的分类任务完成的更加优秀。在大多

2021-06-18 11:31:34 505

原创【深度学习】医学图像分割的集成与后处理

【深度学习】医学图像分割的集成与后处理文章目录1 如何通过组合多个神经网络提高模型性能 1.1 使用融合模型减少模型的方差2 tensorflow keras 实现模型平均 2.1 训练多种模型 2.2 融合模型3 神经网络训练之交叉验证4 训练和后处理5 介绍一些免费/开源的医学影像后处理工具1 如何通过组合多个神经网络提高模型性能深度神经网络是非线性的。它们提供了更大的灵活性，并且理论上随着数据集的增多，其性能表现会越好。其缺点是通过随机训练算法进行学习，这意味着神经网络对训练

2021-06-18 11:31:21 1686

原创【深度学习】U型的Transfomer网络（Swin-Unet）和Swin-Transformer分类

【深度学习】U型的Transfomer网络（Swin-Unet）和Swin-Transformer分类文章目录1 概述2 Swin-Transformer分类源码3 训练4 关于复杂度降低问题5 关于SW-MSA的操作问题6 总结1 概述代码暂时还未开源。在过去的几年中，卷积神经网络（CNN）在医学图像分析中取得了里程碑式的进展。尤其是，基于U形架构和跳跃连接的深度神经网络已广泛应用于各种医学图像任务中。但是，尽管CNN取得了出色的性能，但是由于卷积操作的局限性，它无法很好地学习全

2021-06-18 11:31:09 4098

原创【深度学习】EfficientNetV2分析总结和flops的开源库

【深度学习】EfficientNetV2分析总结和flops的开源库1 EfficientNetV1中存在的问题2 EfficientNetV2中做出的贡献3 NAS 搜索4 EfficientNetV2网络框架4.1 EfficientNetV2-M的详细参数4.2 EfficientNetV2-L的详细参数5 EfficientNetV2与其他模型训练时间对比6 代码7 FLOPs总结8 计算flops的开源库1 EfficientNetV1中存在的问题作者系统性的研究了Eff

2021-06-18 11:31:03 652

原创【深度学习】Swin-Transformer和EfficientNet对比分析

【深度学习】Swin-Transformer和EfficientNet对比分析文章目录1 概述2 算法解析 2.1 Speed 2.2 EfficientNet v2算法详解 2.3 渐进学习3 EfficientUNet4 总结1 概述就在几天前Swin Transformers刚刚为Transformer阵营夺下ImageNet的Top-1准确率（86.4%）不久，以Quoc V.Le为首的CNN阵营又通过大杀器AutoML又再次抢占了这个阵地（87.3%），而拿下这个Top-1的

2021-06-16 10:09:07 1070

原创【深度学习】深度神经网络后处理之全连接CRFs（DenseCRF）

文章目录1 概述2 条件随机场2.1 什么样的问题需要CRF模型2.2 随机场到马尔科夫随机场2.3 从马尔科夫随机场到条件随机场3 python实现图像分割CRFs后处理4 全连接CRF用于精确定位5 CRFasRNN6 总结1 概述目前图像像素级语义分割比较流行使用深度学习全卷积神经网络FCN或者各种FCN的改进版U-Net、V-Net、SegNet等方法**。这些模型中使用了反卷积层进行上采样操作，虽然能够将特征图恢复至原图尺寸，但也造成了特征的损失，自然而然产生了分类目标边界模糊的问题。**为了

2021-06-15 11:07:31 3104

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

云端留言板 django实现

Git工具64位windows.zip

basemap依赖库自取.zip

2019仓库管理系统课设.rar

DeskTopShare.rar

c选手-竞赛环境须知.doc

空空如也