在前几篇介绍了OpenGL几种2D效果(旋转、平移、缩放、滤镜)后可以看到,GL图像颜色空间是用R、G、B、A,也就是红、绿、蓝 加一个透明度通道来表示的。比如,gl_FragColor 通常在取值的时候会用到gl_FragColor.rgba(当然也有写成gl_FragColor.xyzw)来取对应通道的数据。但是在移动端采集视频流的时候,默认情况下,从手机摄像头采集的图像是YUV格式的,比如Android 会有如下的一个颜色类:
对应的,iOS也有一个定义,定义方式如下:
那什么是YUV格式?维基百科中定义:“YUV,是一种颜色编码方法。常使用在各个影像处理组件中。YUV是编译true-color颜色空间(color space)的种类,Y'UV, YUV, YCbCr,YPbPr等专有名词都可以称为YUV,彼此有重叠。“Y”表示明亮度(Luminance、Luma),“U”和“V”则是色度、浓度(Chrominance、Chroma)”
要说清楚YUV,首先要从咱们熟悉的RGB开始说起。RGB,也就是红、绿、蓝三原色,是早在上世纪初,Young(1809)和Helmholtz(1824)提出来的,即:视网膜存在三种视锥细胞,分别含有对红、绿、蓝三种光线敏感的视色素,当一定波长的光线作用于视网膜时,以一定的比例使三种视锥细胞分别产生不同程度的兴奋,这样的信息传至中枢,就产生某一种颜色的感觉。
70年代以来,由于实验技术的进步,关于视网膜中有三种对不同波长光线特别敏感的视锥细胞的假说,已经被许多出色的实验所证实。 例如:有人用不超过单个视锥直径的细小单色光束,逐个检查并绘制在体(最初实验是在金鱼和蝾螈等动物进行,以后是人)视锥细胞的光谱吸收曲线,发现所有绘制出来的曲线不外三种类型,分别代表了三类光谱吸收特性不同的视锥细胞,一类的吸收峰值在420nm处,一类在534nm处,一类在564nm处,差不多正好相当于蓝、绿、红三色光的波长。与上述视觉三原色学说的假设相符。用微电极记录单个视锥细胞感受器电位的方法,也得到了类似的结果,即不同单色光所引起的不同视锥细胞的超极化型感受器电位的大小也不同,峰值出现的情况符合于三原色学说。
而YUV则是黑白电视机向彩色电视机过渡时间的产物,最开始彩色电视机的构想也是想用RGB三原色,但是如果直接使用RGB需面对两个问题:1、彩色电视的传输带宽是黑白电视三倍 2、如何解决黑白电视和彩色电视兼容的问题。而YUV格式的出现,恰好可以解决这两个问题。
据我在网上查到的资料显示,在生理学中,有一条规律,那就是人类视网膜上的视网膜杆细胞要多于视网膜锥细胞,说得通俗一些,视网膜杆细胞的作用就是识别亮度,而视网膜锥细胞的作用就是识别色度。所以,人眼对亮度分辨率的敏感度高于对色彩分辨率的敏感度。
从上图我们可以看出,我们更容易识别去除色彩的图像,而对于单独剥离出的只有色彩的图像,不好识别。
YUV色彩模型就是利用这个原理,把亮度与色度分离,根据人对亮度更敏感些,增加亮度的信号,减少颜色的信号,以这样“欺骗”人的眼睛的手段来节省空间,从而解决上面提到的带宽问题。
又,以YUV/YIQ的格式来处理彩色电视图像,把UV视作表示彩度的C(Chrominance或Chroma),如果忽略C信号,那么剩下的Y(Luma)信号就跟之前的黑白电视频号相同,这样一来便解决彩色电视机与黑白电视机的兼容问题。
到了手机时代,YUV带宽小于RGB这个优点,被手机老祖宗们采用了,因此,我们目前看到的手机摄像头采集一般都使用YUV格式,当然上面也提到YUV是一个庞大的家族,常见的YUV格式有YUY2、YUYV、YVYU、UYVY、AYUV、Y41P、Y411、Y211、IF09、IYUV、YV12、YVU9、YUV411、YUV420等,其中比较常见的YUV420分为两种:YUV420P和YUV420SP。
比如我们在Android平台下,相机默认图像格式NV21就属于YUV420SP格式,其颜色分布如下:
它还有一个兄弟叫做NV12, 其实就是V和U两个分量交换一下,表示如下:
我们发现这种颜色空间和RGBARGBA...这种空间不一样,不能通过GL显示。如果要显示出来需要进行一次颜色空间的转换,即需要将YUV转换成RGB,然后再进行渲染。通常我们需要采用如下公式进行转换(在实操中发现业界存在好几套转换的方法,转换后的结果都存在一定的色偏)这里丢一个我们实际项目中用到的公式:
当然,如果我们老老实实的在CPU里做这个转换是非常慢的,好在OpenGL提供了很多纹理格式,使得在GPU做这个转换变得更加容易,至于如何做,会在下一篇中做详细说明
参考资料: