- 博客(85)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 MICCAI 2020 Challenges
MICCAI 2020 Challenges1REFUGE22nd Retinal Fundus Glaucoma Challenge第二届眼底青光眼竞赛文档：https://zenodo.org/record/3714947#.XuS2R2ozZQI竞赛：https://refuge.grand-challenge.org/临床青光眼的分类；视盘和杯的分割；中央凹的定位，重视临床应用和技术研究3月10日： 开始（训练400 +验证400 +测试400）7月1日： 团队注册
2020-06-23 10:52:43
7281
7
原创 极市平台60期 #ResNeSt
NIN重要性VGG模块化highway network 加权平均为了解决梯度消失vgg：先shallowgoolenet：引入auxiliary lossalexnet引入 ：两个GPU，独立工作等价单分支实现，在channel维度上 进行拆分，两个layer完全等价，模块块多分支网络注意力机制split AttentionResNetD-50 ,zhanghang组去年的工作迁移到检测网络魔改为后面的nas扩展答疑（本人速...
2020-06-20 11:40:49
556
原创 各种插值
对于图像缩放问题，一般是先计算目标图(dst)每个像素点在源图(src)中对应的线性位置，计算公式：srcx=dstx×(srcwdstw)src_x=dst_x \times (\frac{src_{w}}{dst_{w}})srcx=dstx×(dstwsrcw)srcy=dsty×(srchdsth)src_y=dst_y \times (\frac{src_{h}}{dst_{h}})srcy=dsty×(dsthsrch)然后根据位置在源图中取值，但是一般计算下来对应回源
2020-06-20 00:43:52
484
原创 bug合集
socket.timeout: The read operation timed out1、修改pip源使用pip的时候加参数：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple修改 ~/.pip/pip.conf (没有就创建一个)，修改 index-url至tuna[global]index-url = https://pypi.tuna.tsinghua.edu.cn/simple2、pip --default-timeou.
2020-06-19 15:27:13
511
原创 ValseWebinar医学影像小数据深度学习
20181031夏勇：医学影像小数据深度学习1、Deep Ensemble Learning，集成学习医学数据少，多模型共同预测- 乳腺癌 并连 分类视网膜血管分割困难 对比度差距大，粗细毛细血管。多分辨的网络结构处理细血管：蓝色先做上采样，再做下采样处理粗血管：黄色先做下采样，再做上采样效果，还是有一些没有连通。解决 串联两个多尺度信息两个损失函数2、...
2020-06-19 15:20:33
575
原创 C++Primer_ch12
第12章 动态内存12.1 动态内存与智能指针12.2 动态数组12.3 使用标准库：文本查询程序12.1 动态内存与智能指针对于栈对象，仅在其定义的程序块运行时才存在；static对象在使用之前分配，在程序结束时销毁;除了静态内存和栈内存，每个程序还拥有一个内存池。这部分内存被称为自由空间或堆。程序用堆来存储动态分配对象。动态对象的生存期由程序控制在C++中，动态内存的管理...
2020-06-19 15:19:27
224
原创 ValseWebinar : NAS
20191009 神经网络架构搜索NAShttp://valser.org/webinar/slide/slides/20191009/20191009-NAS-2019.pdfhttp://valser.org/webinar/slide/slides/20191009/20191009-valse_automl_v3.pdf针对 Dense Prediction Tasks...
2020-06-19 15:14:54
209
原创 超全超详细的安装nvidia显卡驱动教程
最近想做的事情有点多，感觉卡不够用了，师兄不知道在实验室机房哪个地方找了一个两卡的废旧服务器，开始上手才发现服务器显卡驱动都没装。显卡还是个GTX1060 6G，甜点级别显卡，跑点小东西玩玩，打点小比赛行了。准备工作安装驱动 1、使用标准Ubuntu仓库进行自动化安装 2、使用PPA仓库进行自动化安装 3、使用官方
2020-06-19 15:07:59
36912
3
原创 ResNeSt网络结构概要解读
ResNeSt: Split-Attention Networksenables attention across feature-map groups，提出Split-Attention模块。背景知识基于Multi-path and Feature-map Attention。GoogleNet中提出Multi-path，其中每个网络块由不同的卷积内核组成。ResNeXt在中采用group convolution，具体见我的另一篇blog:ResNet系列及其变体(四)—ResNeXtSE
2020-06-15 17:56:39
5143
3
原创 SKNet网络结构概要解读
提到SKNet，自然会想到SENet，SENet见SENet网络结构概要解读Selective Kernel NetworksSKNet出发点：构建一种模型，使网络可以根据输入信息的多个尺度自适应的调节接受域大小Split.使用不同的卷积核对原图进行卷积。对输入向量X进行不同卷积核大小的完整卷积操作(包括efficient grouped/depthwise convolutions，Batch Normalization，ReLU function)。在本文，选取的3x3和5x5卷积，得到两个
2020-05-29 17:01:01
3730
原创 SENet网络结构概要解读
本篇只是介绍一个大概，细节之后再细看：Squeeze-and-Excitation NetworksSENet网络的创新点在于关注channel之间的关系，希望可以自动学习到不同channel特征的重要程度。SENet提出了Squeeze-and-Excitation (SE)模块，如下图所示：Squeeze.将H×W×CH\times W\times CH×W×C的feature map压缩为1×1×C1\times 1\times C1×1×C，一般是用global average pool
2020-05-29 15:16:48
3052
原创 ResNet系列及其变体目录
为了方便后续扩展，特此blog来整理目录信息：ResNet系列及其变体(一)—ResNetv1ResNet系列及其变体(二)—Wider ResNetResNet系列及其变体(三)—ResNetv2ResNet系列及其变体(四)—ResNeXtResNet系列及其变体(五)—DenseNetResNet系列及其变体(六)—DarkNet53ResNet系列及其变体(七)—Training and investigating ResidualNetsResNet系列及其变体(八)—Bag of
2020-05-29 10:58:03
2186
原创 ResNet系列及其变体(八)—Bag of Tricks
ResNet系列及其变体(一)—ResNetv1ResNet系列及其变体(二)—Wider ResNetResNet系列及其变体(三)—ResNetv2ResNet系列及其变体(四)—ResNeXtResNet系列及其变体(五)—DenseNetResNet系列及其变体(六)—DarkNet53ResNet系列及其变体(七)—Training and investigating ResidualNetsResNet系列及其变体(八)—Bag of TricksBag of Tricks f
2020-05-28 16:27:28
482
原创 ResNet系列及其变体(七)—Training and investigating Residual Nets
ResNet系列及其变体(一)—ResNetv1ResNet系列及其变体(二)—Wider ResNetResNet系列及其变体(三)—ResNetv2ResNet系列及其变体(四)—ResNeXtResNet系列及其变体(五)—DenseNetResNet系列及其变体(六)—DarkNet53ResNet系列及其变体(七)—Training and investigating ResidualNetsTraining and investigating Residual Nets来自t
2020-05-28 16:24:08
644
原创 ResNet系列及其变体(六)—DarkNet53
ResNet系列及其变体(一)—ResNetv1ResNet系列及其变体(二)—Wider ResNetResNet系列及其变体(三)—ResNetv2ResNet系列及其变体(四)—ResNeXtResNet系列及其变体(五)—DenseNetResNet系列及其变体(六)—DarkNet53DarkNet53YOLOv3: An Incremental ImprovementDarknet53是经典的一个深层网络，结合ResNet的特点在保证对特征进行超强表达的同时又避免了网络过深
2020-05-28 15:22:16
8744
2
原创 ResNet系列及其变体(五)—DenseNet
ResNet系列及其变体(一)—ResNetv1Resnet系列及其变体(二)—Wider ResNetResnet系列及其变体(三)—ResNetv2ResNet系列及其变体(四)—ResNeXtResNet系列及其变体(五)—DenseNetDenseNetDensely Connected Convolutional NetworksResidual networks behave like ensembles of relatively shallow networks指出在Re
2020-05-27 23:09:33
721
原创 ResNet系列及其变体(四)—ResNeXt
本篇主要介绍Resnet系列及其变体(一)ResNeXtAggregated Residual Transformations for Deep Neural Networks中心思想：Inception那边把ResNet拿来搞了Inception-ResNet，这头ResNet也把Inception拿来搞了一个ResNeXt，主要就是单路卷积变成多个支路的多路卷积，不过分组很多，结构一致，进行分组卷积。split-transform-merge是通用的神经网络的标准范式,基本的神经元符合
2020-05-27 22:37:56
1173
原创 Resnet系列及其变体(三)—ResNetv2
Resnet系列及其变体(一)ResNetv2ResNetv2Identity mappingIdentity Mappings in Deep Residual NetworksResNet-v2重新设计了一种残差网络基本单元（unit）就是将激活函数（先BN再ReLU）移到权值层之前，形成一种“预激活（pre-activation）”的方式，如(b)，而不是常规的“后激活（post-activation）”方式，并且预激活的单元中的所有权值层的输入都是归一化的信号，如(a)。这使得网络更易
2020-05-27 20:49:42
1191
原创 Resnet系列及其变体(二)—Wider ResNet
本篇主要介绍Wider ResNet，其他Resnet系列及其变体介绍 见如下blog目录：ResNet系列及其变体(一)—ResNetv1Resnet系列及其变体(二)—Wider ResNetWider ResNetWide Residual Networks发现问题：实验结果表明越深的网络结构/模型带来的性能提升并不是很明显改进角度：Block宽度（维度）Wider ResNet提出，每一个Block中的卷积应该更宽。ResNet：BasicBlockResNet： Bott
2020-05-24 11:15:34
2192
原创 [NAS-Det]NATS
论文链接：Efficient Neural Architecture Transformation Search in Channel-Level for Object Detection设计了一个搜索空间，实现了专门用于目标检测的有效的结构转换搜索。基于darts的搜索方法，与darts搜索空间不同，将darts搜索不同操作改为搜索不同大小dilation（不同大小dilation不改变卷积核大小，可以复用预训练权重）。同时使用channel-level 代替 path-level，设计了ch
2020-05-12 21:21:07
343
原创 [NAS-Det]NAS-FPN
能够知道的是PAnet 等等跨尺度连接，允许模型将高层具有丰富语义信息等特征和底层具有高分辨率的特征结合起来本文仅使用增强学习的方法来训练基于retinanetFPN能堆叠N次来提高准确率 训练一个控制器，在给定的搜索空间中使用增强学习的方法选择最好的模型结构。控制器利用 搜索空间中子模型的准确率最为奖励信息来更新参数搜索空间结构使用backbone的输出作为输入{C3,C...
2020-05-12 12:00:19
1441
1
原创 [NAS-AutoAug]AutoAugment: Learning Augmentation Strategies from Data
论文链接：AutoAugment: Learning Augmentation Strategies from DataCVPR 2019论文设计了一个包含很多sub-policies的搜索空间，在每个小的batch中，为每张图片随机选择policysub-policy包含两种operation每个operation表示图像处理函数(1)直接在数据集上搜索（2）policy迁移到其他数据集也有效，将imagenet policy迁移到FGVC、Stanford Cars [27] and
2020-05-11 20:12:00
713
原创 李宏毅强化学习1
Deep RL 概述视频链接：p1-2020 最新课程 (完整版) 强化学习ppt链接：http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS18.html什么是强化学习解决智能体（agent）在与环境（environment）的交互过程中通过学习策略以达成回报（reward）最大化或实现特定目标的问题Actor/PolicyAction=π...
2020-05-08 15:07:31
316
原创 [NAS]MobileDets
论文题目：MobileDets: Searching for Object Detection Architectures for Mobile AcceleratorsMobileDets主要内容发现广泛使用的仅限IBN的搜索空间对于EdgeTPUs和dsp等现代移动加速器来说可能是次优的。提出了一种新的搜索空间，TDB，它通过重新考虑常规卷积的有用性，在大范围的移动加速器上工作。...
2020-05-08 11:14:47
837
原创 [NAS-Det]DetNet
论文链接：DetNet: A Backbone network for Object DetectionECCV2018一个专门为物体检测任务而设计的 Backbone——DetNet主要是讨论设计检测的backbone带来大的有效接受域，考虑到分类问题和检测问题之间的差异DetNet 包含额外的层，在深层卷积中保持了高的空间分辨率使用分类的backbone来做分类任务有两个...
2020-05-07 18:28:15
307
原创 Bag of Tricks for Image Classification with Convolutional Neural Networks
论文链接：Bag of Tricks for Image Classification with Convolutional Neural Networks针对cnn图像分类的一些tricks迁移到其他任务比如检测语义分割上也有很好的效果2019 cvprbaseline 的选择在新的硬件上有效训练tricks对ResNet-50进行微调其他的一些训练tricks其他应用上...
2020-05-06 19:26:58
469
原创 [检测]YOLOv4
论文题目： YOLOv4: Optimal Speed and Accuracy of Object Detection论文链接：https://arxiv.org/pdf/2004.10934.pdf论文代码：https://github.com/AlexeyAB/darknetyolov4 其实相对创新点很少，可以理解为基于各种trick进行的一个grid search，找出最好的组合...
2020-04-30 23:13:48
1985
原创 [NAS]Fair darts代码解析
论文题目：Fair DARTS: Eliminating Unfair Advantages in Differentiable Architecture Search论文链接：https://arxiv.org/pdf/1911.12126.pdf论文代码：https://github.com/xiaomi-automl/FairDARTS关于fair-darts论文解析见[NAS]Fa...
2020-04-18 10:52:25
1013
原创 [NAS]Darts代码解析
darts论文链接：https://arxiv.org/pdf/1806.09055.pdfdarts源码链接：https://github.com/quark0/dartssearch部分'''train_search.py#数据准备（cifar10）。搜索时，从cifar10的训练集中按照1:1重新划分训练集和验证集'''train_transform, valid_tra...
2020-04-17 19:42:48
4839
10
原创 [NAS]Fair darts
论文题目：Fair DARTS: Eliminating Unfair Advantages in Differentiable Architecture Search论文链接：https://arxiv.org/pdf/1911.12126.pdf论文代码：https://github.com/xiaomi-automl/FairDARTSfair darts探讨了 DARTS 存在的...
2020-04-15 15:53:44
636
原创 [NAS-seg]RONASMIS
论文题目：Resource Optimized Neural Architecture Search for 3D Medical Image Segmentation基于强化学习参数共享实现搜索将重点放在宏观搜索的最优搜索空间上，而不是微观搜索关键词 3D医学分割，nas1.39 days for 1GB datasetone RTX 2080Ti with 10.8GB...
2020-04-07 19:30:32
336
原创 [NAS-seg]Scalable Neural Architecture Search for 3D Medical Image Segmentation
论文题目：Scalable Neural Architecture Search for 3DMedical Image Segmentation使用nas的方法，搜索3D医学图像分割的网络结构。提出基于SGD的双层优化，同时学习网络结构和相关操作参数搜索空间Cell C 有四种类型：encoder-normal (Cenc)(...
2020-04-07 08:45:33
905
原创 [NAS]NAS-FCOS
论文标题：NAS-FCOS: Fast Neural Architecture Search for Object Detection官方代码：https://github.com/Lausannen/NAS-FCOSFCOS结构图基于FCOS，使用nas方法，提出nas-fcos主要内容：1、使用nas方法，搜索FPN和head结构。2、使用nas方法，探索FPN和head之间...
2020-04-05 15:01:23
1748
原创 [NAS]OHL-Auto-Aug
论文题目：Online Hyper-parameter Learning for Auto-Augmentation Strategy之前的方法，采样很多policies， 每个训练一个子模型来衡量性能并通过控制器来更新policy的分布。这整个过程的计算量很大，很耗时。例如，采取了15000个policy样本，每种样本训练120个epochs。提出一种将自动增强问题 近似为 超参数的优化...
2020-04-04 13:52:59
503
原创 反卷积,CAM,Grad-CAM
反卷积，导向反向传播，反向传播区别在于反向传播过程中经过ReLU层时对梯度的不同处理策略CAMClass Activation Mapping借鉴GAP对于其中一个类别：这样，CAM以热力图的形式告诉了我们，模型是重点通过哪些像素确定这个图片是羊驼了。Grad-CAMCAM缺点是要求修改修改原模型的结构，提出Grad-CAM第k个特征图对类别c的权重为αkc\al...
2020-03-31 15:02:00
613
原创 ValseWebinar : Fine-Grained Image Analysis and Beyond
20181226魏秀参：Fine-Grained Image Analysis and BeyondSCDA(con’t)深度描述子同一channel 对不同物体的激活部位不同保留最大的激活部分pre-trained 模型VLAD：基于一阶Fisher：基于二阶avg和max pool进行级连物体协同定位计算相关性保留 PCA 第一维...
2020-03-26 12:49:23
121
原创 GHM
论文题目：Gradient Harmonized Single-stage Detector论文链接：https://arxiv.org/pdf/1811.05181.pdf正、负样本简单和困难眼样本之间的不均衡问题负样本和简单样本数量多我们首先指出，这两个不均衡的本质影响可以用梯度的形式来概括所以提出GHMgradient harmonizing mechanism 来解决不均...
2020-03-12 16:22:02
2237
原创 Object Instance Mining for Weakly Supervised Object Detection
论文题目：Object Instance Mining for Weakly Supervised Object Detection论文链接：https://arxiv.org/pdf/2002.01087.pdf论文代码：https://github.com/bigvideoresearch/OIM现有的多目标检测学习很容易陷入局部最优，因为这个学习机制倾向于对每一个类别学习一张图片中最明...
2020-03-01 16:25:38
551
原创 C++Primer_ch9
第9章 顺序容器9.1 顺序容器概述9.2 容器库概览9.3 顺序容器操作9.4 vector对象是如何增长9.5 额外的string操作9.6 容器适配器9.1 顺序容器概述顺序容器为程序员提供了控制元素存储和访问顺序的能力。这种顺序不依赖于元素的值，而是与元素加入容器时的位置相对应。所有顺序容器都提供了快速顺序访问元素的能力。但是容器有不同性能折中：stri...
2020-02-26 22:46:34
127
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人