图像分割后图像之全连接CRFs后处理

本文介绍了深度学习图像分割中,全连接条件随机场(CRFs)作为后处理技术的重要性。FCN等模型的上采样导致分类边界模糊,全连接CRFs通过考虑像素间关系来优化分类结果,提高分割精度。文章详细解析了全连接CRFs的原理,并对比了它与稀疏CRFs的区别,同时提及了大规模图像处理的高效算法。最后,提到了在实际操作中如何使用全连接CRFs进行后处理,以及所需的库如numpy、skimage和pydensecrf。
摘要由CSDN通过智能技术生成

目前图像像素级语义分割比较流行使用深度学习全卷积神经网络FCN或者各种FCN的改进版U-Net、V-Net、SegNet等方法。这些模型中使用了反卷积层进行上采样操作,虽然能够将特征图恢复至原图尺寸,但也造成了特征的损失,自然而然产生了分类目标边界模糊的问题。为了得到更精确的最终分类结果,通常要进行一些图像后处理。全连接CRFs是在目前深度学习图像分割应用中常用的一种图像后处理方式,它是CRFs的改进模式,能够结合原始影像中所有像素之间的关系对深度学习得到的分类结果进行处理,优化分类图像中粗糙和不确定性的标记,修正细碎的错分区域,同时得到更细致的分割边界。

全连接CRFs原理物体通常由大的空间相邻的区域表示,每个像素 都拥有一个类别标签 i ,而且还有一个对应观测值 ,这样在无向图中每个像素点都成为某一个节点,若使用像素与像素之间的关系作为边连接,这样就组成了条件随机场。最终目的就是使用观测值 来推测这个像素i本来拥有的类别标签 ,如下图所示:
在这里插入图片描述
全连接CRFs与稀疏CRFs的最大差别在于:每个像素点都与所有的像素点相连接构成连接边。如果一张图像大小是256256,那么就相当于有65536个像素点,因此如果采用全连接CRFs的话,那么就会构造出6553665536条边。如果图像大小再大一些,那么就会变得十分恐怖,普通条件随机场推理算法根本行不通。这时,文献《Efficient Inference in Fully Connected CRFs with Gaussian Edge Potentials》给出了快速推理算法。

  • 6
    点赞
  • 111
    收藏
    觉得还不错? 一键收藏
  • 18
    评论
以下是基于U-Net模型训练完成后的全连接CRFs代码示例: 首先,需要安装 pydensecrf 包: ``` pip install pydensecrf ``` 然后,导入相关包并定义 CRF 类: ```python import numpy as np import pydensecrf.densecrf as dcrf class CRF(object): """ 定义全连接CRF类 """ def __init__(self, iter_max=10, pos_xy_std=3, pos_w=3, bi_xy_std=67, bi_rgb_std=10, bi_w=4): self.iter_max = iter_max self.pos_xy_std = pos_xy_std self.pos_w = pos_w self.bi_xy_std = bi_xy_std self.bi_rgb_std = bi_rgb_std self.bi_w = bi_w def __call__(self, img, prob): """ 输入图像和像素级别概率,返回CRF处理后的概率图 """ # 将图像转换为灰度图 img_gray = np.dot(img[..., :3], [0.299, 0.587, 0.114]) # 将像素级别概率转换为一维数组 prob_flat = prob.reshape((prob.shape[0], -1)) # 初始化 CRF d = dcrf.DenseCRF2D(img.shape[1], img.shape[0], 2) # 设置 CRF 的输出概率 d.setUnaryEnergy(-np.log(prob_flat)) # 设置 CRF 的位置邻接能量 xy_coords = np.vstack(np.mgrid[0:img.shape[1], 0:img.shape[0]].reshape(2, -1).T) d.addPairwiseGaussian(xy=xy_coords, sxy=self.pos_xy_std, compat=self.pos_w) # 设置 CRF 的颜色邻接能量 d.addPairwiseBilateral(xy=xy_coords, rgb=img.reshape(-1, 3), sxy=self.bi_xy_std, srgb=self.bi_rgb_std, compat=self.bi_w) # 运行 CRF 迭代 Q = d.inference(self.iter_max) prob_crf = np.array(Q).reshape((2, img.shape[0], img.shape[1])) return prob_crf[1] ``` 接下来,读取测试图像并进行预测: ```python import cv2 from tensorflow.keras.models import load_model # 读取测试图像并进行预处理 img = cv2.imread('test.jpg') img = cv2.resize(img, (256, 256)) img = img / 255.0 img = np.expand_dims(img, axis=0) # 加载已训练的 U-Net 模型并进行预测 model = load_model('unet.h5') prob = model.predict(img)[0] # 对预测结果进行 CRF 后处理 crf = CRF() prob_crf = crf(img[0], prob) # 将处理后的结果转换为二值图像 mask = np.zeros((256, 256), dtype=np.uint8) mask[prob_crf > 0.5] = 255 ``` 最后,可以将处理后的结果保存为图像: ```python cv2.imwrite('mask.jpg', mask) ```
评论 18
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值