万恶的马赛克,是阻碍人类进步的绊脚石。
马赛克“脑补”算法 PULSE,助你图片模糊变高清。
这是杜克大学近期的一项研究,将模糊人脸秒变高清。
PULSE 算法目前只支持人脸的马赛克“去除”,因为训练数据都是人脸。
也就是说,“脑补”其它物体马赛克下的内容也是可以的,只要你有数据!
我知道,你一定又有了一些大胆的想法!
「 Just do it 」 !
今天,继续手把手教学。
算法原理、环境搭建、效果测试,一条龙服务,尽在下文!
干货主要有:
======
① 200 多本 Python 电子书(和经典的书籍)应该有
② Python标准库资料(最全中文版)
③ 项目源码(四五十个有趣且可靠的练手项目及源码)
④ Python基础入门、爬虫、网络开发、大数据分析方面的视频(适合小白学习)
⑤ Python学习路线图(告别不入流的学习)
Python学习交流Q群101677771
2
算法原理
PULSE 算法可以在几秒内,将 16x16 像素的低分辨率(Low Resolution,以下简称 LR)小图,放大 64 倍,变成 1024 x 1024 像素的高分辨率(High Resolution,以下简称 HR)图像。
PULSE 算法会「脑补」出 LR 图像一些不存在的特征,补充细节,例如纹理、毛孔、毛发等:
左图为原始 LR 图片,右图为 PULSE 算法生成的 HR 图片。
PULSE 算法的思路是,拿到一张 LR 图片,使用 stylegan 生成 HR 图片,再将 HR 图片 downscale 得到的 LR 图片与原始 LR 图片对比,一直迭代收敛,找到最接近的那张。如下图所示:
原始 LR 图片和 PULSE 修复后再 donwscale 的 LR 图片对,使两者最接近的 HR 图片,就是修复得到的 HR 图片。
该算法在著名的高分辨率人脸数据集 CelebA HQ 上进行了效果评估,用 64×,32× 和 8× 的比例因子,采用不同的算法,进行了对比实验。
实验表明,PULSE 算法的效果最佳,得分几乎与真实的高质量照片一样高。
通过上图,可以清晰地看到,PULSE 算法在人脸不同位置的纹理细节。
不过 PULSE 算法也有一定的局限性,它无法将失焦、不能识别的人脸照片,变成照片真人的清晰图像,它仅会生成不存在但看上去很真实的新面孔。
说白了,PULSE 生成的高清图片,是「脑补」出来的,与真实的人脸照片可能存在差别。
3
环境搭建
PULSE 算法采用 Pytorch 实现,使用了 dlib 人脸库的一些 API。
项目地址:
https://github.com/adamian98/pulse
环境搭建不复杂,工程里的 pulse.yml 文件,已经写明了依赖环境。
name: pulse
channels:
-
pytorch
-
defaults
dependencies:
-
blas=1.0=mkl
-
ca-certificates=2020.1.1=0
-
certifi=2020.4.5.1=py38_0
-
cffi=1.14.0=py38hc512035_1
-
chardet=3.0.4=py38_1003
-
cryptography=2.9.2=py38ha12b0ac_0
-
cycler=0.10.0=py38_0
-
freetype=2.9.1=hb4e5f40_0
-
idna=2.9=py_1
-
intel-openmp=2019.4=233
-
jpeg=9b=he5867d9_2
-
kiwisolver=1.2.0=py38h04f5b5a_0
-
libcxx=10.0.0=1
-
libedit=3.1.20181209=hb402a30_0
-
libffi=3.3=h0a44026_1
-
libgfortran=3.0.1=h93005f0_2
-
libpng=1.6.37=ha441bb4_0
-
libtiff=4.1.0=hcb84e12_0
-
matplotlib=3.1.3=py38_0
-
matplotlib-base=3.1.3=py38h9aa3819_0
-
mkl=2019.4=233
-
mkl-service=2.3.0=py38hfbe908c_0
-
mkl_fft=1.0.15=py38h5e564d8_0
-
mkl_random=1.1.0=py38h6440ff4_0
-
ncurses=6.2=h0a44026_1
-
ninja=1.9.0=py38h04f5b5a_0
-
numpy=1.18.1=py38h7241aed_0
-
numpy-base=1.18.1=py38h6575580_1
-
olefile=0.46=py_0
-
openssl=1.1.1g=h1de35cc_0
-
pandas=1.0.3=py38h6c726b0_0
-
pillow=7.1.2=py38h4655f20_0
-
pip=20.0.2=py38_3
-
pycparser=2.20=py_0
-
pyopenssl=19.1.0=py38_0
-
pyparsing=2.4.7=py_0
-
pysocks=1.7.1=py38_0
-
python=3.8.2=hf48f09d_13
-
python-dateutil=2.8.1=py_0
-
pytorch=1.5.0=py3.8_0
-
pytz=2020.1=py_0
-
readline=8.0=h1de35cc_0
-
requests=2.23.0=py38_0
-
scipy=1.4.1=py38h44e99c9_0
-
setuptools=46.2.0=py38_0
-
six=1.14.0=py38_0
-
sqlite=3.31.1=h5c1f38d_1
-
tk=8.6.8=ha441bb4_0
-
torchvision=0.6.0=py38_cpu
-
tornado=6.0.4=py38h1de35cc_1
-
urllib3=1.25.8=py38_0
-
wheel=0.34.2=py38_0
-
xz=5.2.5=h1de35cc_0
-
zlib=1.2.11=h1de35cc_3
-
zstd=1.3.7=h5bba6e5_0
-
pip:
-
dlib==19.19.0
prefix: /path/to/your/anaconda3/envs/pulse
直接使用 pulse.yml 文件,用 Anaconda 进行环境配置。
修改 pulse.yml 文件中 prefix 的路径为你的 Anaconda 路径,然后使用指令创建环境:
conda create -f pulse.yml
这是官方推荐的方法。亲测,依然遇到了一些依赖问题。
最后一个一个依赖包安装才解决,所以我建议是使用 Anaconda 通过第三方库的包名安装,不用管版本啥的,例如:
conda install ca-certificates requests
libcxx、libedit 等这类的 lib 库不用安装,Anaconda 在创建 Python 环境的时候已经安装好了。
最后
🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!