Local Binary Convolutional Neural Networks

于 2020-06-09 10:28:41 发布
阅读量974 收藏 8
点赞数 3
文章标签： 深度学习 卷积
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44249855/article/details/106634174
版权
LBCNN是CVPR2017提出的一种结合Local Binary Pattern (LBP)和CNN的模型，旨在减少可学习参数，避免过拟合，加速收敛。它通过预定义权重的卷积实现LBP运算，显著降低了计算成本和模型大小。LBCNN的网络结构包括预定义滤波器和1x1卷积，其中预定义权重的随机化策略增加了模型的泛化能力。
摘要由CSDN通过智能技术生成

Local Binary Convolutional Neural Networks

一、介绍

这是CVPR2017的一篇文章，主要通过将local binary pattern的编码方式与卷积神经网络CNN相结合，进而提出一种可以极大减少可学习参数数量的模型。

官方下载网址 http://xujuefei.com/lbcnn.

二、主要内容

意义

该模型的意义可以总结如下：

  1. 对可学习参数的数量进行极大缩减，可以减少9到169倍(取决于滤波器的尺寸)可学习参数的数量
  2. 避免过拟合，加快收敛速度，更适用于小规模训练集
  3. 大幅度减少了模型尺寸以及计算消耗

通过卷积进行LBP运算

local binary pattern 可以通过卷积进行实现，以(r, p)=(1,8)的lbp运算为例。
传统lbp的计算过程：

  1. 对比中心点与领域像素值的大小
  2. 若领域像素值较大则在该位置标注为1，否则为0
  3. 将所有领域的标签乘以对应的权重后求和

通过卷积进行LBP运算的计算过程：

  1. 使用8个预定义的3*3滤波器对图像进行卷积操作，每个滤波器只有两个非0的权值，中心点的权重为-1，领域点的权重为1。
  2. 使用非线性函数(单位阶跃函数)对卷积后的结果进行映射，若卷积结果为正数，则将该值映射为1，否则为0
  3. 将得到的8个channel的值乘以对应的权重后求和，这一过程可以通过1*1的卷积实现

最低0.47元/天 解锁文章
weixin_44249855
关注
  • 3
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RILBCNN:旋转不变局部二进制卷积神经网络，ICCV研讨会，2017年
05-12
旋转不变局部二进卷积神经网络 由张欣，刘力，谢玉祥，陈杰，吴玲达，马蒂·皮蒂卡宁（MattiPietikäinen） 抽象的 尽管CNN具有前所未有的强大功能来学习有效的表示形式，但它们仍然是参数昂贵的，并且由于缺乏处理输入数据的方向转换的能力而受到限制。 为了缓解这个问题，我们提出了一种深度结构，称为旋转不变局部二进制卷积神经网络（RI-LBCNNs）。 RI-LBCNN是由局部二进制定向模块（LBoM）组成的深度卷积神经网络。 LBoM由两部分组成，即三层可控模块（第一层为两层，第二部分为一层），是局部二进制卷积（LBConv）和主动旋转滤波器（ARF）的组合。 通过用LBoM替换DCNN中的基本卷积层，可以轻松实现RI-LBCNN，并且可以自然地将LBoM插入流行的模型中，而无需对优化过程进行任何额外的修改。 同时，因此可以容易地端到端地训练所提出的RI-LBCNN。 大量实验表明，
人脸智能识别程序实现源码
最新发布
08-05
在这个实例中，可能会使用到如Haar级联分类器、Local Binary Patterns (LBP)、Histogram of Oriented Gradients (HOG)等传统特征提取方法，或者是基于深度学习的模型，如Convolutional Neural Networks (CNNs)。...
Local Binary Convolutional Neural Networks ---卷积深度网络移植到嵌入式设备上？
weixin_30466953的博客
09-24 631
前言：今天他给大家带来一篇发表在CVPR 2017上的文章。 原文：LBCNN 原文代码：https://github.com/juefeix/lbcnn.torch 本文主要内容：把局部二值与卷积神经网路结合，以削减参数，从而实现深度卷积神经网络端到端的训练，也就是未来嵌入式设备上跑卷积效果将会越来越好。 主要贡献： 提出一种局部二值卷积（LBC)可以用来替代传统的卷积神经网络的卷积层...
深度学习笔记-CNN(Convelutional Neural Network; 卷积神经网络)
星空中的一颗星
02-07 1634
什么是卷积神经网络？ 我的理解就是将图像与filter进行乘积得到一个特征map，多个特征map进行叠加。 卷积神经网络的过程？ 卷积->池化->卷积->池化->扁平. 卷积？ CNN - Convolution 将矩阵进行内积 得到一个4x4的内积矩阵，将图像缩小。 池化？ 选择矩形中最大的结果 池化结果为[3 0; 3 1]
深度学习（一）-CNN原理研究
xiake001的专栏
10-31 6526
基本概念 协方差矩阵 关于协方差矩阵的理解 线性与非线性 “线性”=”齐次性”+”可加性”, “齐次性”是指类似于: f(ax)=af(x), “可加性”是指类似于: f(x+y)=f(x)+f(y), 这里没有太多特别的原因, 就是一个名字. “非线性”当然就是这两条至少之一不成立. 似然函数 如何理解似然函数? 详解最大似然估计（MLE）、最...
嵌入式CNN检测网络--LCDet
AI小作坊 的博客
06-01 2556
LCDet: Low-Complexity Fully-Convolutional Neural Networks for Object Detection in Embedded System https://arxiv.org/abs/1705.05922本文针对嵌入式设备以 YOLO为基础，提出 LCDet 在 TensorFlow 上实现，采用 8-bit 定点 TF-model 达到实时
lbcnn.torch-master.zip_CNN_LBC_LBP CNN_becomeg53_torch
09-19
We propose local binary convolution (LBC), an efficient alternative to convolutional layers in standard convolutional neural networks (CNN). The design principles of LBC are motivated by local binary ...
人脸识别活体检测研究方法综述.pdf
09-23
基于深度学习方法通过训练深度神经网络来学习活体检测模型，常见的算法有Convolutional Neural Networks（CNN）和Recurrent Neural Networks（RNN）。基于融合策略方法通过组合多种算法来提高活体检测的准确率。 ...
基于Matlab的人脸识别的研究_毕业论文.pdf
11-01
同时，研究者也可以探索基于深度学习的人脸识别方法，如Convolutional Neural Networks (CNN)和Recurrent Neural Networks (RNN)等，以提高人脸识别的准确率。 本文对基于Matlab的人脸识别研究进行了综述，介绍了...
改进深度学习块卷积神经网络的人脸表情识别.pdf
08-19
本文提出的是一种改进的块卷积神经网络（Region-based Convolutional Neural Networks, R-CNNs）结构，结合主动形状模型（Active Shape Models, ASM）和局部二元模式（Local Binary Patterns, LBP）映射来提升人脸...
深度学习之卷积神经网络(Convolutional Neural Networks, CNN)(二)
笨拙的石头的博客
05-28 4758
    前面我们说了CNN的一般层次结构及其每个层的作用等内容.     这一节将在前一节的内容的基础上, 讨论CNN中的参数初始化, CNN过拟合的处理方法, 参数学习的方法, CNN的优缺点等内容.一 CNN参数初始化...
CVPR2019--Binary Ensemble Neural Network--二值CNN网络集成
AI小作坊 的博客
04-22 1376
Binary Ensemble Neural Network: More Bits per Network or More Networks per Bit? CVPR2019 本文最基本的思想： 二值CNN网络虽然速度快，占用内存少，但是精度低。本文分析了 二值CNN网络精度低的可能原因，然后提出 组合多个二值CNN网络来提升精度。 1 Introduction 深度神经网络 DNNs 在学术界...
CNN笔记（CS231N）——卷积神经网络（Convolutional Neural Networks）
shanwenkang的博客
01-28 957
卷积神经网络 如今卷积神经网络已经应用到生活的方方面面 我们上次讲了全连接层，全连接层一般作为卷积神经网络的最后一层 卷积层 下面我们来看卷积神经网络中最常用的结构：卷积层。由于输入图片的像素很多，如果我们将每个像素进行全连接的话那我们需要学习十分多的权重，这样不仅需要非常多的训练数据，还可能出现过拟合的问题。因此我们采用的结构是定义一个卷积核，让这个卷积核在图片上进行卷积操作...
Libra R-CNN解决不平衡检测问题
rosefun96的博客
10-11 2205
1.摘要 检测不平衡问题包括：样本层面(sample level)、特征层面(feature level)、训练目标层面(objective level)。 Libra R-CNN，一个针对目标检测平衡学习的简单有效框架。该框架集成了三个组件：IoU-balanced sampling，balanced feature pyramid，balanced L1 loss，分别解决上述的三个不平衡问题...
【论文解读】EffNet: AN EFFICIENT STRUCTURE FOR CONVOLUTIONAL NEURAL NETWORKS
c20081052的专栏
02-22 1780
题目：EffNet: AN EFFICIENT STRUCTURE FOR CONVOLUTIONAL NEURAL NETWORKS 日期：2018.6.5 链接：https://arxiv.org/abs/1801.06434v1   【摘要】 随着CNN在用户产品应用上不断增加，对模型能够高效运行在嵌入式，移动硬件设备上的需求也逐渐热化。模型轻量化因此变为一个热门研究话题，也涌现出...
CVPR2019| CVPR论文接收列表！
热门推荐
中科院AI算法工程师的博客
03-19 1万+
欢迎关注微信公众号【计算机视觉联盟】获取更多前沿AI、CV资讯 统计CVPR2019论文（附链接、和代码），更新于8月11日（arXiv最新日期），持续更新中！ 1294篇的CVPR2019论文PDF下载： 关注公众号【计算机视觉联盟】回复关键词【CVPR2019】即可获取下载链接！ 【1】Learning Regularity in Skeleton Trajectories ...
【今日CV 计算机视觉论文速览 第101期】Wed, 17 Apr 2019
TomRen
04-18 1919
第101期 视觉论文速览 图像修复 超分辨 去噪 单点目标检测
论文笔记：PRIN: Pointwise Rotation-Invariant Networks
hongbin_xu的博客
06-11 2706
PRIN: Pointwise Rotation-Invariant Networks 1、四个问题 要解决什么问题？ 使用特殊结构的神经网络来提取具有旋转不变性的点云特征。 用了什么方法解决？ 提出了一套新的网络结构：Pointwise Rotation-Invariant Network（PRIN），所提取的特征具有旋转不变性。 预处理阶段，使用密度感知自适应采样（Density-A...
Understanding Convolutions/理解卷积(2)
liubin192837的博客
07-24 357
    随着分布式的交叉变小将收缩。    通过在动画中利用这一技巧，的确可以可视化的理解积。    使用这个方式，很多事情变得直观。 　让我们考虑一个非概率的问题。卷积有时用在音频处理。比如可能使用带有连个尖峰，其他地方是零的函数来制造一个回声些效果。当有两个尖峰的函数滑动，第一个峰尖第一次到达，将添加到输出信号，紧跟者添加第二个到达的峰到输出信号。 　更高维度的卷积 　卷...
近三年深度学习掌纹分类方法有什么，至少10个
06-01
8. "Palmprint recognition using deep learning with local binary pattern features" - 2017年 9. "Palmprint recognition using deep learning with feature fusion" - 2017年 10. "Palmprint recognition using ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值