Resnet图像识别入门—— 图像的色彩空间

上一篇文章[Resnet图像识别入门——像素]从像素开始，聊到了 RGB 这一常见的色彩空间模型。

之所以还想继续聊聊 RGB 以及另一种色彩空间模型-YUV ，不是说想要以后去学摄影，学学如何需要调节色度、曝光和饱和度啥的。

而是在图像识别的深度学习任务中，RGB以及YUV这些概念，总是会时不时的出现一下，让枯燥无味且高度抽象的深度学习算法，突然之间，变得具体一些，光鲜一些。

RGB

Red，Green，Blue（RGB）是我们最常见的图像表示方法。

这个非常好理解，三原色的融合，几乎可以构造出所有需要的颜色。

三张RGB分量图片的融合，就可以构成一幅色彩斑斓的图片。

平时我们说，分辨率为1920*1080的图片，它代表的是在长宽两个方向上，有 1920 * 1080 个像素，但是，在色彩这个方向上，还有 3 个通道（channel），也就是RGB，往往被我们忽略。

我们看到的一个像素点的颜色，在计算系统中，并不是简单的由一个数值来表示的，而是由RGB三个分量的三个数值来表示的。

因此，想要计算一张1920*1080的图片的大小，或者说计算这张图片在计算机内存中所占用的大小时，不能仅仅用图片的长度乘以宽度这么算，还需要考虑通道数。

数值表示和图片大小计算

我们可能用过画图这一软件来调过颜色。

通过简单的设置红色，绿色，蓝色的数值，就可以在调色板中得到一个颜色。

有没有注意到，无论红色，还是绿色，还是蓝色，其表示的数值都没有超过255。

为什么？

因为像素值，在计算机语言中，是用一个 uint8 的数据来表示的。

而 uint8 ，指的是 8bit 无符号整数，其能表示的范围就是 0 - 255。

自从几年前微软宣布停止更新画图软件之后，画图就越来越少的出现在人们的视野中，你或许可以打开电脑看看，左下角的菜单里，是否还有画图软件，就像当年window xp 系统被停用一样，慢慢的就会消失在人们的记忆里

说到这，我们就可以算一算，一张 1920 x 1080 的RGB图像，在计算机的表示中，到底占多少的内存？

很简单，长宽方向上每个像素由 3 个通道组成，每个通道由一个 8 bit 的数值表示，一个 8 bit 数值代表一个字节（Byte）。

因此，一张1920 x 1080的 RGB 图像，占计算机存储大小为 1920 x 1080 x 3 x 1 Bytes = 6075 KB = 5.9 MB。

5.9 MB 的内存占用！

• 大么？和目前动辄几个G的手机内存相比，不算大
• 小么？和边缘侧图像识别终端内存，比如摄像头里的嵌入式芯片内存相比，又不算小

更何况在公路违法拍照的摄像头场景下，在车流量很大的时候，需要实时处理的图片，可远远不止一张！

那怎么办？

有没有办法可以在进行图像处理时，减少图片的数据量，从而减少图片大小和内存占用呢？

有，YUV就是其中一种办法。

YUV

YUV是将亮度信息和颜色信息进行编码的一种颜色空间表示方法。

和RGB类似，YUV 也使用3个字母维度来表示颜色。

为了简单点，我们暂时将这3个值称为Y，U和V。（事实上，YUV的称呼很多，比如Y’CbCr，也很细节，这里不多描述，我们只要知道它是另外一种表示颜色的方法就可以。）

Y 代表亮度，U 代表色彩度，V代表饱和度。

上面的几张图片，除了原图之外，我们可能更加倾向于使用只有Y分量的图片，也就是那张黑白图像。 因为即使没有色彩，但是它的轮廓以及明亮程度，也足以让我们分辨出图片中的物体。

其视觉效果远远好于其他两个分量的图片。

相反，只有色度和饱和度的图片，反而变得模糊不堪。

这就是问题所在！

人眼对于亮度具有更高的敏感度，而对色度和饱和度反而显得迟钝一些。

说到这，有没发现什么？

既然人眼对于色度和饱和度的反应不敏感，那就没有必要把所有的色度和饱和度信息都放在图片里了啊。

举个例子，色度和饱和度我隔一个像素放一个，剩下的像素没有饱和度，不就可以了么。

没错，是可以，而且效果很好。

这就是YUV的不同编码。实际上，YUV的编码方式有很多种，比如YUV444, YUV422等。

大致意思就是，保留全部的Y分量（人眼最敏感的亮度分量），但是只保留部分的U/V分量（人眼不敏感），以此来减少图片的占用，但又不失重要信息。

还记得上面的1920 x 1080的RGB图片的内存占用么，为5.9MB。

如果用YUV444的编码，结果也同样是5.9MB， 因为YUV444也是全采样，所有的亮度、色度、饱和度信息都保留了。

而如果采用YUV422的编码，相当于U分量减少一半，V分量减少一半。那么最终的图片占用大小就变成了

1920 x 1080 x (1 + 0.5 + 0.5) Bytes = 4050KB = 3.9MB。

只有3.9MB，减少了1/3的内存占用！

是不是好很多？更多关于YUV的编码知识，有兴趣的同学可以Google。如果不做相关课题，可以不用深究。

我们只需要知道，YUV这一色彩编码方法，在保留亮度这一人眼最敏感信息的基础上，通过降低其他人眼不太需要的信息，可以来达到降低图片大小的目的。就足够了。

YUV编码的用途

原始图片，channel数代表的是RGB通道，可以理解为原始图片具有的三个特征。

可在深度学习网络中，随着网络深度的增加，图片的channel数会不断的增大。

就拿Resnet50这个网络来说，最后面的一层图片，channel数已经增大到了2048。

这时channel代表的信息，早已不再是RGB这种基础的特征了，而是通过了大量的神经网络训练，代表了图片的分类，比如是猫还是狗。

YUV这种编码方法，可以用在图片的上下采样中，通过降低或增加通道数，实现图片的上下采样，以此来实现图片的增大或减少，但又不损失太多我们希望保留的信息。

总结一下

聊了聊 RGB、YUV 两种颜色空间，以及YUV可能的用途和它的优势。

为什么聊这么多关于图片的东西，因为在深度学习处理图像的任务中，图片是原材料。

正所谓知己知彼，百战不殆。了解了图片这一深度学习的原材料之后，我们就可以更加高效的来完成图片数据的处理和分析，就可以开始图像识别的算法之旅了！