深度学习
秋名山小法师
这个作者很懒,什么都没留下…
展开
-
【开发工具】PyTorch数据变换操作
在训练神经网络之前,数据是不可或缺的一部分,数据操作主要包括数据预处理(正则化、增强),数据读取和数据加载,下面按照这个顺序依次学习一下。首先是数据的预处理,这里主要是使用torchvision.transforms这个模块,内部实现一些基本图像变换使用PIL模块实现。常用的主要包括以下几种方式:import torchvision.transforms as Timport cv2ima...原创 2019-12-03 14:15:53 · 253 阅读 · 0 评论 -
【论文阅读】Selective Kernel Networks
论文地址:Selective Kernel Networks简介本文提出了一种在CNN网络中动态选择的机制,让每一个神经元可以根据输入信息自动调整感受野大小。作者设计了一个网络模块,称为Selective Kernel Unit,以此来实现这个目的。作者这样设计的原因是在视觉皮质层中,同一个神经元对同一块区域有着不同大小的感受野,也就是说同一个神经元对于同一个输入信息可以同时提取到不同范围的...原创 2019-11-14 13:49:08 · 2890 阅读 · 3 评论 -
【论文阅读】AlexNet:ImageNet Classification with Deep Covolutional Network
网络结构使用ReLU非线性层作者在网络结构中使用了ReLU作为非线性激活层来代替当时比较常用的tanh或sigmoid,加速了网络的训练速度,对此作者也做了对比实验并可视化了结果。可以看到同样是下降到0.25的loss rate,ReLU(实现)比tanh(虚线)少用了六倍的时间。局部响应归一化(LRN)由于ReLU不像tanh或sigmoid一样,输出有一定范围,所以需要对其输...原创 2019-11-04 00:42:30 · 217 阅读 · 0 评论