Tensorflow学习笔记————图像预处理

图像预处理

结合实战Google深度学习框架和博客添加了自己总结的注释、笔记。

• 图像读取
  
  • tf.gfile.FastGFile(“/path/to/picture”, ‘r’).read()
• 图像格式的编码解码 ：图像不直接记录图像上的不同位置，不同颜色的亮度。而是记录压缩编码之后的结果。所以要还原成三维矩阵，需要解码。以下为对jpeg格式图像编码/解码函数：
  
  • tf.image.decode_jpeg() #解码
  • tf.image.encode_jpeg() #编码
  • print (img_data.eval()) #输出解码之后的三维矩阵
  • encoded_image = tf.image.encode_jpeg(img_data)
    with tf.gfile.GFile(“pictures/output.jpeg”,”wb”) as f:
    f.write(encoded_image.eval()) #编码之后保存
  • tf.image.convert_image_dtype(img_data, dtype = tf.float.32) #数据类型转化成实数
• 图像大小调整
  
  • tf.image.resize_images(image,height,width,method)
  • method: 0-双线性插值 1-最近邻居法 2-双三次插值法 3-面积差值法
  • tf.image.resize_image_with_crop_pad 自动裁剪或者填充(都是操作图片中间部分)
  • tf.image.central_crop(img_data, 0.5) #按比例调整图像大小，第二个参数为(0,1]的实数。
  • tf.image.crop_to_bounding_box() #裁剪给定区域
  • tf.image.pad_to_bounding_box() #填充给定区域
  • print(img_data.get_shape()) #打印img_data的维度大小
• 图像翻转
  
  • tf.image.flip_up_down() #上下翻转
  • tf.image.filp_left_right() #左右翻转
  • tf.image.transpose_image() #对角线翻转
  • tf.image.random_flip_up_down() #以一定概率上下翻转
  • tf.image.random_flip_left_right() #以一定概率左右翻转
• 图像色彩调整
  
  • 亮度调整 tf.image.adjust_brightness(image,0.5)
  • 随机亮度调整 tf.image.random_brightness(image,max_delta) #在[-max_delta,max_delta]范围内
  • 对比度调整 tf.image.adjust_contrast()
  • 色相调整 tf.image.adjust_hue()
  • 饱和度调整 tf.image.adjust_saturation()
  • 随机调整图的饱和度 tf.image.random_satration(image, lower,upper)
  • 图像标准化 tf.image.per_image_whitening(image) 图像上的亮度均值为0，方差变为1
• 标注框
  
  • tf.image.draw_bounding_boxes(batch,boxes) 这个函数要求图像矩阵的数字为实数，而且输入的是一个batch的数据，即多张图像组成的四维矩阵，所以将编码后的图像矩阵加一维。
  • tf.expand_dims(input, axis=None, name=None, dim=None)
    #Given a tensor input, this operation inserts a dimension of 1 at the
    #dimension index axis of input’s shape. The dimension index axis starts
    #at zero; if you specify a negative number for axis it is counted backward
    #from the end.
    #给input插入一个维度，维度索引从0开始为插在最前面的维度，这里是batch，所以为0，最前面。
  • boxes = tf.constant([[[0.05,0.05,0.9,0.7],[0.35,0.47,0.5,0.56]]]) #boxes.get_shape()->[1,2,4]
  • begin,size,bboxes = tf.image.sample_distorted_bounding_box(tf.shape(image),bounding_boxes=boxes) #此函数为图像生成单个随机变形的边界框
    #前2个张量用于 tf.slice 剪裁图像。最后一个参数可以用于 tf.image.draw_bounding_boxes 函数来画出边界框。
    #返回值begin 和 size 可用在 tf.slice(inputs,begin,size,name=”) #裁剪图像
    #inputs：可以是list,array,tensor
    #begin：n维列表，begin[i] 表示从inputs中第i维抽取数据时，相对0的起始偏移量，也就是从第i维的begin[i]开始抽取数据
    #size：n维列表，size[i]表示要抽取的第i维元素的数目。例子参考
    #image_with_box = tf.image.draw_bounding_boxes(img_data, bboxes) #画出边界框
    #bounding_boxes：是一个 shape 为 [batch, N, 4] 的三维数组，数据类型为float32，第一个batch是因为函数是处理一组 图片的，N表示描述与图像相关联的N个边界框的形状，而标注框由4个数字 [y_min, x_min, y_max, x_max] 表示出来。例如：tf.constant([[[0.05, 0.05, 0.9, 0.7], [0.35, 0.47, 0.5, 0.56]]]) 的 shape 为 [1,2,4] 表示一张图片中的两个标注框；tf.constant([[[ 0. 0. 1. 1.]]]) 的 shape 为 [1,1,4]表示一张图片中的一个标注框

随机翻转图像，随机调整颜色，随机截图图像中的有信息含量的部分，这些事提高模型健壮性的一种方式。这样可以使是训练得到的模型不受被识别物体大小的影响。

完整代码：

import tensorflow as tf

import numpy as np
import matplotlib.pyplot as plt

def distort_color(image,color_ordering=0):
    if color_ordering == 0:
        image = tf.image.random_brightness(image,max_delta=32./255.)#亮度
        image = tf.image.random_saturation(image,lower=0.5,upper=1.5)#饱和度
        image = tf.image.random_hue(image,max_delta=0.2)#色相
        image = tf.image.random_contrast(image,lower=0.5,upper=1.5)#对比度
    elif color_ordering == 1:
        image = tf.image.random_brightness(image, max_delta=32. / 255.)  # 亮度
        image = tf.image.random_hue(image, max_delta=0.2)  # 色相
        image = tf.image.random_saturation(image, lower=0.5, upper=1.5)  # 饱和度
        image = tf.image.random_contrast(image, lower=0.5, upper=1.5)  # 对比度
    return tf.clip_by_value(image,0.0,1.0) #将张量值剪切到指定的最小值和最大值

def preprocess_for_train(image,height,width,bbox):
    #如果没有提供标注框，则认为整个图像就是需要关注的部分
    if bbox is None:
        bbox = tf.constant([0.0,0.0,1.0,1.0],dtype=tf.float32,shape=[1,1,4])

    #转换图像张量的类型
    if image.dtype != tf.float32:
        image = tf.image.convert_image_dtype(image,dtype=tf.float32)

    #随机截取图像，减少需要关注的物体大小对图像识别的影响
    bbox_begin,bbox_size,_ = tf.image.sample_distorted_bounding_box(tf.shape(image),
                                                                    bounding_boxes=bbox)
    distort_image = tf.slice(image,bbox_begin,bbox_size)

    #将随机截图的图像调整为神经网络输入层的大小。大小调整的算法是随机的
    distort_image = tf.image.resize_images(
        distort_image,[height,width],method=np.random.randint(4)
    )
    #随机左右翻转图像
    distort_image = tf.image.random_flip_left_right(distort_image)
    #使用一种随机的顺序调整图像色彩
    distort_image = distort_color(distort_image,np.random.randint(1))
    return distort_image

image_raw_data = tf.gfile.FastGFile("pictures/Koala.jpg",'r').read()

with tf.Session() as Sess:
    ima_data = tf.image.decode_jpeg(image_raw_data)
    boxes = tf.constant([[[0.05,0.05,0.9,0.7],[0.35,0.47,0.5,0.56]]])

    #运行6次获得6中不同的图像，在图中显示效果
    for i in range(6):
        #将图像的尺寸调整为299*299
        result = preprocess_for_train(ima_data,299,299,boxes)

        plt.imshow(result.eval())
        plt.show()