源代码:https://github.com/taotaonice/FaceShifter
源码有点不友好哦。。。。。。
先看train-AEI.py
from network.AEI_Net import *
from network.MultiscaleDiscriminator import *
追到network模块,模型的结构。AEI_NET和判别器的内部结构。
一)AEI-NET.py包括:
1、多联合特征提取encoder的搭建,使用的kernel_size=4,前向传播,建议推倒一下很简单的;feature_map大小可以得到论文中提到的8个特征向量z_atrr*
z_attr8 = F.interpolate(z_attr7, scale_factor=2, mode='bilinear', align_corners=True)
采用一种插值方式(双线行插值)
2、ADD生成器:
包括ADD_ResBlk残差连接模块和前向传播;
3、AEI-NET搭建:
论文中提及的ID Encoder是引入mtcnn的,且不需要训练。
现在已经构建了所有的零部件。
AEI-NET = ID Encoder + 多联合特征提取encoder + ADD生成器
二)MultiscaleDiscriminator判别器:类似的结构
其vis = visdom.Visdom(server='127.0.0.1', env='faceshifter', port=8099)
安装visdom库,运行(在运行代码的环境下)python -m visdom.server
,将运行的结果连接在网页打开。
其G, opt_G = amp.initialize(G, opt_G, opt_level=optim_level) D, opt_D = amp.initialize(D, opt_D, opt_level=optim_level)
使用apex,下载安装。Note:会有报错,各种恶心。
故:import sys sys.path.append('存放apex的地址') from apex import amp
即可解决(亲测有效可行);
loss部分一定要详细扣一下。我就不详述了,结合论文与代码,一点点砍下来。哦,不错哦。。。。。
将下载好的数据集必须通过process_images.py转换成输入大小方可运行。只是在其中修改数据存放地址即可。
最后运行代码train-AEI.py。
修改batch-size大小根据自己的电脑性能而决定
模型正在训练中,与训练模型就等训练好再放。数据集[celeba,vggfaces,FFHQ]正在上传百度云盘等弄好,和与训练模型一起分享给大家。话说作者的loss系数效果有一点点不像论文中说的那么好阿。