论文笔记-deep learning-detection (2017)

本笔记记录 之后最新的网络的进展。

Spatial Transformer Networks

Fully Convolutional Networks for Semantic Segmentation

创新点1

将fullconect看做为convolutional Network。将输出看做是类别的热点图。

Alt text

创新点2 -fusion

combine where and what.

Alt text

如何将最终粗略的map转换为pixel wise的map

使用decovolutional 和convolution过程相反。

训练方法

loss 就是pixel wise loss,使用预训练模型。

R-FCN: network

fcn: full - con-network 全卷积网络。没有fullconnect. 
全卷积意味着没有fullconnect层次。

前向传播

position-sensitive RoI polling: poll 的时候只取对应层次的和对应位置的部分。其他位置不取。这就让feature map和位置产生关系,非常巧妙。

Alt textYOYO2 也是全卷积网络。

整体网络结构:

Alt text

Mask-R-CNN

  • 加入segment分支:在Faster-R-CNN的基础上加上 image segment分支组成的。
  • mask loss:对每一类的mask实行二进制softmax,这样做可以防止多类之间的竞争。损失函数:loss function . mask分支对于每个RoI有Km2 维度的输出。K个(类别数)分辨率为m*m的二值mask。因此作者利用了a per-pixel sigmoid,并且定义 Lmask 为平均二值交叉熵损失(the average binary cross-entropy loss).对于一个属于第k个类别的RoI, Lmask 仅仅考虑第k个mask(其他的掩模输入不会贡献到损失函数中)。这样的定义会允许对每个类别都会生成掩模,并且不会存在类间竞争。
  • ROI Align: 不再使用阶段的方式,全程使用浮点数,对于浮点数,使用双线性差值的进行差值元素,这一方式大大提高了进度。

deformable network

Alt text

两点需要注意的地方:

  1. offset需要根据图像内容动态生成
  2. offset是浮点数,需要进行线性差值。利用线性差值进行反向传播
  3. offset是根据图片的内容二动态计算的。输入修正。
  4. offset的参数的编写,每组offset 需要的feature数目: 2*kernel_w*kernel_h*col_w*col_w
  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
"blitz-bayesian-deep-learning-master" 是一个软件项目的名称,该项目是一个在深度学习领域中应用贝叶斯方法的程序代码库。 深度学习是一种机器学习方法,用于训练和模拟人工神经网络,以便可以从大规模数据中进行模式识别和预测。而贝叶斯方法是一种从概率的角度解释不确定性的统计学方法。 blitz-bayesian-deep-learning-master项目的目标是将贝叶斯方法应用于深度学习领域。通过引入贝叶斯理论和方法,这个项目试图解决深度学习中的一些问题,如模型不确定性估计和过拟合问题。这将有助于提高深度学习模型的鲁棒性和泛化能力。 在blitz-bayesian-deep-learning-master项目中,可能会包含一些贝叶斯深度学习的常见算法和模型,如变分自编码器(VAE)、蒙特卡洛dropout和贝叶斯卷积神经网络等。这些算法和模型可以被应用于各种深度学习任务,如图像分类、目标检测和自然语言处理等。 通过使用该项目,研究人员和开发人员可以更好地理解深度学习中的不确定性和模型鲁棒性,并在实际问题中应用贝叶斯深度学习方法。这将为科学研究和工程应用带来更加准确和可靠的结果。 总而言之,blitz-bayesian-deep-learning-master是一个旨在将贝叶斯方法应用于深度学习领域的项目,旨在提高模型的不确定性估计和泛化能力,为科学研究和工程应用带来更好的结果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值