转载自:https://zhuanlan.zhihu.com/p/342274228
作者:ChenCver
可能应用场景
- 线性场景的语义分割
- 文字识别
随笔
弹性变形的第二个步骤,和现在语义分割中流行的可学习光流上采样SFnet,采用神经网络来学习随机变化的随机场。
1. 前言
弹性变形数据增强,本人在看Unet论文时第一次接触到,工作中,经常用到语义分割解决问题,发现在针对线分割的问题,经常都会出现中间断裂的情况。后期经过不断工程验证,发现弹性变形这种数据增强有助于解决该问题,弹性变形论文最早是由Patrice等人在2003年ICDAR上发表:《Best Practices for Convolutional Neural Networks Applied to Visual Document Analysis》,本文主要是对其中的弹性变形进行详细讲解。
2. 弹性变形
- 仿射变换
- 弹性变形
step1:对图像imageA进行仿射变换(三点法),得到imageB,关于仿射变换可以看: 马同学;
step2:对imageB图像中的每个像素点随机生成一个在x和y方向的位移,△x和△y。其位移范围在(-1, 1)之间,得到一个随机位移场(random displacement fields);
step3:用服从高斯分布的N(0, δ)对step2中生成的随机位移场进行卷积操作(和CNN中的卷积操作一样,说白了就是滤波操作)。我们知道δ越大,产生的图像越平滑。下图是论文中的不同δ值对随机位移场的影响,下图左上角为原图,右上角为δ较小的情况(可以发现,位移方向非常随机),左下角和右下角为较大的不同δ值。
step4:用一个控制因子α与随机位移场相乘,用以控制其变形强度;
step5:将随机位移场施加到原图上,具体是怎么施加的呢?首先,生成一个和imageB大小一样的meshgrid网格meshB,网格中的每个值就是像素的坐标,比如说meshgrid网格大小为512x512,则meshgrid中的值为(0, 0), (0, 1), …, (511, 0), (511, 511),然后将随机位移场和meshB网格相加,这就模拟了imageB中的每个像素点在经过随机位移场的作用后,被偏移的位置,meshB与随机位移场相加后的结果记做imageC。
step6:弹性变形最终输出的imageC中每个位置的灰度值大小,组成一副变形图像,现在imageC中每个像素点存储的是(x+△x, y+△y),如下图中的A’,那怎么转化成灰度值呢,依据论文,作者是根据imageB中的B位置的双线性插值灰度值作为A’点的像素灰度值大小,最终将imageC输出得到变形图像。
参考代码
# -*- coding:utf-8 -*-
import cv2
import numpy as np
from scipy.ndimage.filters import gaussian_filter
from scipy.ndimage.interpolation import map_coordinates
def elastic_transform(image, alpha, sigma,
alpha_affine, random_state=None):
if random_state is None:
random_state = np.random.RandomState(None)
shape = image.shape
shape_size = shape[:2]
# Random affine
center_square = np.float32(shape_size) // 2
square_size = min(shape_size) // 3
# pts1: 仿射变换前的点(3个点)
pts1 = np.float32([center_square + square_size,
[center_square[0] + square_size,
center_square[1] - square_size],
center_square - square_size])
# pts2: 仿射变换后的点
pts2 = pts1 + random_state.uniform(-alpha_affine, alpha_affine,
size=pts1.shape).astype(np.float32)
# 仿射变换矩阵
M = cv2.getAffineTransform(pts1, pts2)
# 对image进行仿射变换.
imageB = cv2.warpAffine(image, M, shape_size[::-1], borderMode=cv2.BORDER_REFLECT_101)
# generate random displacement fields
# random_state.rand(*shape)会产生一个和shape一样打的服从[0,1]均匀分布的矩阵
# *2-1是为了将分布平移到[-1, 1]的区间, alpha是控制变形强度的变形因子
dx = gaussian_filter((random_state.rand(*shape) * 2 - 1), sigma) * alpha
dy = gaussian_filter((random_state.rand(*shape) * 2 - 1), sigma) * alpha
# generate meshgrid
x, y = np.meshgrid(np.arange(shape[1]), np.arange(shape[0]))
# x+dx,y+dy
indices = np.reshape(y + dy, (-1, 1)), np.reshape(x + dx, (-1, 1))
# bilinear interpolation
imageC = map_coordinates(imageB, indices, order=1, mode='constant').reshape(shape)
return imageC
if __name__ == '__main__':
img_path = '/home/cxj/Desktop/img/8_5_5.png'
imageA = cv2.imread(img_path)
img_show = imageA.copy()
imageA = cv2.cvtColor(imageA, cv2.COLOR_BGR2GRAY)
# Apply elastic transform on image
imageC = elastic_transform(imageA, imageA.shape[1] * 2,
imageA.shape[1] * 0.08,
imageA.shape[1] * 0.08)
cv2.namedWindow("img_a", 0)
cv2.imshow("img_a", img_show)
cv2.namedWindow("img_c", 0)
cv2.imshow("img_c", imageC)
cv2.waitKey(0)