LBP local binary patterns 人脸特征提取方法

1.算法简介

　　LBP是一种简单，有效的纹理分类的特征提取算法。LBP算子是由Ojala等人于1996年提出的，主要的论文是"Multiresolution gray-scale and rotation invariant texture classification with local binary patterns", pami, vol 24, no.7, July 2002。LBP就是"local binary pattern"的缩写。

下载：http://www.mediateam.oulu.fi/publications/pdf/94.p

　　从纹理分析的角度来看，图像上某个像素点的纹理特征，大多数情况下是指这个点和周围像素点的关系，即这个点和它的邻域内点的关系。从哪个角度对这种关系提取特征，就形成了不同种类的特征。有了特征，就能根据纹理进行分类。LBP构造了一种衡量一个像素点和它周围像素点的关系。　

 

 

　　对图像中的每个像素，通过计算以其为中心的3*3邻域内各像素和中心像素的大小关系，把像素的灰度值转化为一个八位二进制序列。具体计算过程如下图所示，对于图像的任意一点Ic，其LBP特征计算为，以Ic为中心，取与Ic相邻的8各点，按照顺时针的方向记为 I0,I1,...,I7；以Ic点的像素值为阈值，如果 Ii 点的像素值小于Ic，则 Ii 被二值化为0，否则为1；将二值化得到的0、1序列看成一个8位二进制数，将该二进制数转化为十进制就可得到Ic点处的LBP算子的值。
　　基本的LBP算子只局限在3*3的邻域内，对于较大图像大尺度的结构不能很好的提取需要的纹理特征，因此研究者们对LBP算子进行了扩展。新的LBP算子LBP（P,R） 可以计算不同半径邻域大小和不同像素点数的特征值，其中P表示周围像素点个数，R表示邻域半径，同时把原来的方形邻域扩展到了圆形，下图给出了四种扩展后的LBP例子，其中，R可以是小数，对于没有落到整数位置的点，根据轨道内离其最近的两个整数位置像素灰度值，利用双线性差值的方法可以计算它的灰度值。

　　LBP(P,R)有2^p个值，也就是说图像共有2^p种二进制模型，然而实际研究中发现，所有模式表达信息的重要程度是不同的，统计研究表明，一幅图像中少数模式特别集中，达到总模式的百分之九十左右的比例，Ojala等人定义这种模式为Uniform模式，如果一个二进制序列看成一个圈时，0-1以及1-0的变化出现的次数总和不超过两次，那么这个序列就是Uniform模式 ，比如，00000000、00011110、00100001、11111111，在使用LBP表达图像纹理时，通常只关心Uniform模式，而将所有其他的模式归到同一类中。

人脸图像的各种LBP模式如下图所示，由图中可以看出，变化后的图像和原图像相比，能更清晰的体现各典型区域的纹理，同时又淡化了对于研究价值不大的平滑区域的特征，同时降低了特征的维数。比较而言，Uniform模式表现的更逼真，在人脸识别和表情识别应用中，都是采用这种模式。

 

　　在表情识别中，最常用的是把LBP的统计柱状图作为表情图像的特征向量。为了考虑特征的位置信息，把图像分成若干个小区域，在每个小区域里进行直方图统计，即统计该区域内属于某一模式的数量，最后再把所有区域的直方图一次连接到一起作为特征向量接受下一级的处理。

　　LBP算子利用了周围点与该点的关系对该点进行量化。量化后可以更有效地消除光照对图像的影响。只要光照的变化不足以改变两个点像素值之间的大小关系，那么LBP算子的值不会发生变化，所以一定程度上，基于LBP的识别算法解决了光照变化的问题，但是当图像光照变化不均匀时，各像素间的大小关系被破坏，对应的LBP模式也就发生了变化。

　　如果图像旋转了，那么纹理特征就旋转了，这时得到的2进制串也就旋转了，LBP值会相应变化。为了让LBP具有旋转不变性，将二进制串进行旋转。假设一开始得到的LBP特征为10010000，那么将这个二进制特征，按照顺时针方向旋转，可以转化为00001001的形式，这样得到的LBP值是最小的。无论图像怎么旋转，对点提取的二进制特征的最小值是不变的，用最小值作为提取的LBP特征，这样LBP就是旋转不变的了。当P=8时，能产生的不同的二进制特征数量是2^8个，经过上述表示，就变为36个。(我以为应当是2^8/8=32个)

（3）LBP等价模式

       一个LBP算子可以产生不同的二进制模式，对于半径为R的圆形区域内含有P个采样点的LBP算子将会产生2^P 种模式。很显然，随着邻域集内采样点数的增加，二进制模式的种类是急剧增加的。例如：5×5邻域内20个采样点，有2²⁰＝1,048,576种二进制模式。如此多的二值模式无论对于纹理的提取还是对于纹理的识别、分类及信息的存取都是不利的。同时，过多的模式种类对于纹理的表达是不利的。例如，将LBP算子用于纹理分类或人脸识别时，常采用LBP模式的统计直方图来表达图像的信息，而较多的模式种类将使得数据量过大，且直方图过于稀疏。因此，需要对原始的LBP模式进行降维，使得数据量减少的情况下能最好的代表图像的信息。

        为了解决二进制模式过多的问题，提高统计性，Ojala提出了采用一种“等价模式”（Uniform Pattern）来对LBP算子的模式种类进行降维。Ojala等认为，在实际图像中，绝大多数LBP模式最多只包含两次从1到0或从0到1的跳变。因此，Ojala将“等价模式”定义为：当某个LBP所对应的循环二进制数从0到1或从1到0最多有两次跳变时，该LBP所对应的二进制就称为一个等价模式类。如00000000（0次跳变），00000111（只含一次从0到1的跳变），10001111（先由1跳到0，再由0跳到1，共两次跳变）都是等价模式类。除等价模式类以外的模式都归为另一类，称为混合模式类，例如10010111（共四次跳变）（这是我的个人理解，不知道对不对）。

       通过这样的改进，二进制模式的种类大大减少，而不会丢失任何信息。模式数量由原来的2^P种减少为 P ( P-1)+2种，其中P表示邻域集内的采样点数。对于3×3邻域内8个采样点来说，二进制模式由原始的256种减少为58种，这使得特征向量的维数更少，并且可以减少高频噪声带来的影响。

 

2、LBP特征用于检测的原理

       显而易见的是，上述提取的LBP算子在每个像素点都可以得到一个LBP“编码”，那么，对一幅图像（记录的是每个像素点的灰度值）提取其原始的LBP算子之后，得到的原始LBP特征依然是“一幅图片”（记录的是每个像素点的LBP值）。

        LBP的应用中，如纹理分类、人脸分析等，一般都不将LBP图谱作为特征向量用于分类识别，而是采用LBP特征谱的统计直方图作为特征向量用于分类识别。

       因为，从上面的分析我们可以看出，这个“特征”跟位置信息是紧密相关的。直接对两幅图片提取这种“特征”，并进行判别分析的话，会因为“位置没有对准”而产生很大的误差。后来，研究人员发现，可以将一幅图片划分为若干的子区域，对每个子区域内的每个像素点都提取LBP特征，然后，在每个子区域内建立LBP特征的统计直方图。如此一来，每个子区域，就可以用一个统计直方图来进行描述；整个图片就由若干个统计直方图组成；

        例如：一幅100*100像素大小的图片，划分为10*10=100个子区域（可以通过多种方式来划分区域），每个子区域的大小为10*10像素；在每个子区域内的每个像素点，提取其LBP特征，然后，建立统计直方图；这样，这幅图片就有10*10个子区域，也就有了10*10个统计直方图，利用这10*10个统计直方图，就可以描述这幅图片了。之后，我们利用各种相似性度量函数，就可以判断两幅图像之间的相似性了；

 

3、对LBP特征向量进行提取的步骤

（1）首先将检测窗口划分为16×16的小区域（cell）；

（2）对于每个cell中的一个像素，将相邻的8个像素的灰度值与其进行比较，若周围像素值大于中心像素值，则该像素点的位置被标记为1，否则为0。这样，3*3邻域内的8个点经比较可产生8位二进制数，即得到该窗口中心像素点的LBP值；

（3）然后计算每个cell的直方图，即每个数字（假定是十进制数LBP值）出现的频率；然后对该直方图进行归一化处理。

（4）最后将得到的每个cell的统计直方图进行连接成为一个特征向量，也就是整幅图的LBP纹理特征向量；

然后便可利用SVM或者其他机器学习算法进行分类了。