卷积神经网络
搬用工tyler
这个作者很懒,什么都没留下…
展开
-
多分支卷积神经网络
SiameseNet两个输入孪生网络:解决度量问题,如两张图片的相似度,如与库中人脸比对常常伴有余弦距离计算,与之对应的loss有:center loss,cosface,AMsoftmax等TripletNet三个输入:anchor,positive,negative目标:同类距离尽可能小,不同类距离尽可能大细粒度的识别任务正负样本比例失衡— 难例挖掘...原创 2020-03-20 11:30:10 · 6417 阅读 · 0 评论 -
轻量级卷积神经网络
SqueezeNetFire Module:Squeeze层和Expand层类似Inception结构深度压缩方法MobileNet(google)精度损失可控范围内,大幅度降低参数和计算量模型结构:深度可分离卷积,每个分组都是由一通道组成1.深度卷积(Depth-wise):每一个channel为一个组,减少参数量,损失了通道之间的关联2.点卷积(Point-wise):1...原创 2020-03-20 11:17:01 · 2314 阅读 · 0 评论 -
卷积神经网络进化
总体阿尔法:AlexNet更深:VGG、ResNet更宽:InceptionNet更深+更宽:InceptionResNet(Inception+Res)更轻量级:MobileNet等1.AlexNet1.首次使用ReLU2.使用了2-GPU并行结构3.使用了归一化层(注意不是batch normalization,后续弃用)4.使用了数据增强技术5.两个全连接层使用了dro...原创 2020-03-19 19:02:10 · 239 阅读 · 0 评论 -
卷积和池化
卷积优势:1.图像具有局部特性(局部连接,局部感受野)2.参数共享(特征跟位置无关,一个眼睛在两边还是中间都是眼睛)3.训练速度快,因为很多芯片对卷积操作有优化实现,Im2col特点:1.卷积核大小选择奇数,是为了保护位置信息,因为有中心点,另外padding时是对称的2.步长设置为大于1时为降采样,与pooling相比,好处是降低了计算量,缺点是损失了一些信息3…参数与图像尺寸无...原创 2020-03-19 18:47:38 · 271 阅读 · 0 评论