论文:
[2012.07810] Real-Time High-Resolution Background Matting (arxiv.org)
GitHub项目源码:GitHub - PeterL1n/BackgroundMattingV2: Real-Time High-Resolution Background Matting
目录
论文学习
方法设计:
给定图像 ,背景图
,alpha遮罩图
,前景图
则可以在新的背景图B' 合成新的图像I' ,描述为:
并且通过求解前景残差:
最后的前景图可以通过:
网络模型:
网络模型分成两部分:基础网络和优化网络
:包括三个模块Backbone、ASPP和Decoder。Backbone提供ResNet-50、ResNet-101、MobileNetV2使用。ASPP由3、6和9尺寸的卷积滤波器组成,采用DeepLab-V3构成的编解码网络结构。Decoder则是进行每一步应用双线性上采样构成的解码器网络。输入下采样的图像及相应背景图
和
,得到粗糙的alpha通道图
、前景残差图
、误差预测图
和网络隐藏特征
。
:对
中值较大的区域使用
,
,
,
和
进行优化,生成与原图像相同分辨率的alpha遮罩图
和前景残差图
。