BA-Net网络阅读笔记

创新点:

1.构建LM可微循环网络

2.深度图由一组基础深度图线性叠加组成

1.构建LM可微循环网络

对LM算法中阻尼因子进行学习【17】,使LM层可微。进而可以对整个网络进行端对端的学习训练,利用特征误差函数,同时优化特征学习网络和深度预测网络。

                                                                   图 1 单次LM网络循环

这个方法不仅使得优化变得可微,而且可以更好的学习阻尼因子,有助于在有限的迭代内取得更好的结果。首先将中间变量设为网络节点来构造LM优化的单次迭代。在正向传递过程中,从特征金字塔F和当前X中计算增加的X,步骤如下:

1.计算特征度量误差

2.计算雅可比矩阵J(x),海森矩阵和海森矩阵的对角矩阵D(x)。

3.使用全局平均池化来合并E(X)的绝对值,对于每个通道的每个像素。并且获得128维的特征向量。然后送入MLP的子网络中预测阻尼因子。

4.跟新参数

                                                         (1)

通过这种方法将阻尼因子作为中间变量,参与每一次LM迭代。

 

2.深度图由一组基础深度图线性叠加组成

使用DRN-54作为编码器与特征金字塔共享特征。对于解码器,微调最后一层卷积到128通道,并使用这些特征图作为基础深度图进行优化。最后的深度图是基础深度图的线性组合【17】:

                                                                                                       (2)

解码器中采用三个上采样层和一个卷积层,最后一个卷积层生成128个基础深度图,上采样层采用如下结构【18】,进行快速计算:

                                      图2    上采样层         

3.整体结构图

                                                                    图 3   网络结构图

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值