- 博客(10)
- 资源 (20)
- 收藏
- 关注
RSS订阅转载 CNN网络结构的发展
经典网络结构部分网络的pytorch实现github代码：CNN-nets1. LeNet5由两个卷积层，两个池化层，两个全连接层组成。卷积核都是5×5，stride=1，池化层使用maxpooling。2. AlexNet模型共八层（不算input层），包含五个卷积层、三个全连接层。最后一层使用softmax做分类输出。AlexNet使用了ReLU做激活函数；防止过拟...
2019-12-29 15:13:48
518
原创 为什么卷积核通常都是奇数（1x1、3x3...）
使用小的卷积核代替大卷积核的目的有两个，第一，降低参数数量，第二，顺带的效果是增加了网络深度。1，为了方便same padding时的处理。如步长为1时，要补充k-1的zero padding才能使输出输出的尺寸一致，这时候如果核大小k是偶数，则需要补充奇数的zero padding，不能平均分到feature map的两侧。padding时对称：保证了 padding 时，图像的两边依然...
2019-12-28 11:07:35
2917
转载 调参技巧
转自调参技巧网络能深则深。宽度小时，尽可能加深网络深度，并在加深的过程中增大网络宽度。 使用小卷积核。小卷积核有利于网络走向更深，具有更好的识别鲁棒性。 前面几层下采样的频率高一点，中间层下采样频率降低，并使用不下采样的方法提高深度。前面几层下采样密度大：微弱精度损失换取速度提升。最终能够下采样的最大深度的层的感受野，由数据集中最大有意义物体的尺寸决定，最大感受野应该覆盖数据集中最大有意义...
2019-12-28 10:09:37
319
原创 神经网络中的一些小东西
1、argparseimport argparseparser = argparse.ArgumentParser(description='learn the argparse')parser.add_argument('--lr', default=0.1, type=float, help='learning rate')parser.add_argument('--epoc...
2019-12-16 16:22:40
296
原创 mobilenet V1&V2讲解以及torch代码
详细理解见：MobileNet，从V1到V3，讲的非常通俗易懂，大赞。本文也是摘录自上述文章，做了少许改动，代码是自己写的。Mobilenet V1一句话精髓：MobileNetV1就是把VGG中的标准卷积层换成深度可分离卷积！！！深度可分离卷积就是将普通卷积拆分成为一个深度卷积和一个逐点卷积。我们在进行普通卷积的时候，为了获取有效信息，一般在卷积缩小特征图大小的同时，会增加特征图...
2019-12-16 15:17:32
1667
2
原创 KNN和MLP实现多分类器
训练集和测试集信息如下图：多分类为最后的quality可以看到quality分类为3～9之间的7个数。我们首先采用机器学习算法KNN实现一下：# coding=utf-8import numpy as npimport operatorimport argparseimport pandas as pd# 属性配置parser = argparse.Argu...
2019-12-15 16:58:28
2094
原创 train loss与test loss结果分析
train loss 不断下降，test loss不断下降，说明网络仍在学习;train loss 不断下降，test loss趋于不变，说明网络过拟合;train loss 趋于不变，test loss不断下降，说明数据集100%有问题;train loss 趋于不变，test loss趋于不变，说明学习遇到瓶颈，需要减小学习率或批量数目;train loss 不断上升，test...
2019-12-12 16:09:12
353
原创 卷积操作和全连接操作顺序
卷积层：conv+relu+batch_normalize+pooling 全连接层：Linear+relu+dropout
2019-12-12 16:07:14
603
原创 多分类问题torch.nn.Softmax的使用
为什么谈论这个问题呢？是因为我在工作的过程中遇到了语义分割预测输出特征图个数为16，也就是所谓的16分类问题。因为每个通道的像素的值的大小代表了像素属于该通道的类的大小，为了在一张图上用不同的颜色显示出来，我不得不学习了torch.nn.Softmax的使用。首先看一个简答的例子，倘若输出为(3, 4, 4)，也就是3张4x4的特征图。import torchimg = torch...
2019-12-05 20:36:31
7613
1
Linux网站搭建流程
2017-12-22
数学建模教材（精品）
2017-09-27
Linux操作系统实验教程_南大版
2017-09-23
2016年考研核心考点——计算机组成原理
2017-09-23
2016年考研核心考点-----计算机网络
2017-09-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人