A Unified Evaluation Benchmark and Adversarial Graph Learning

基于对抗的无监督图表征域适应的表情识别,在这篇论文中作者使用了两个数据集,Source datasets 和 Target datasets,其中Source含有标签,而Target不含有标签。

首先使用预训练网络提取Source和Target数据集中的所有特征,在这篇论文中特征可以分为6类,整体特征、左眼(LE)、右眼(RE)、鼻子(N)、左半嘴部分(LM)、右半嘴部分(RM)。提取取出所有特征后,使用K-means将这些特征分为C类(C代表数据集中表情的种类)。

在每一类中可以计算该类均值,计算公式如下:
在这里插入图片描述
其中c代表类别,k代表特征, n c n_{c} nc代表在某一类中某个特征的个数,这个公式也就是说求每一类中每个特征的均值。

处理完数据后,我们接下来看网络的整体框架,如下图所示:
在这里插入图片描述
首先从Source数据集中抽取一张图片,提取特征,按照上面介绍,总共可以提取6个特征,每个特征为一个64维的特征向量。具体提取过程,可以看作者在原文中的表述
在这里插入图片描述
提取出带有标签的图片(即Source中的图片)中的6个特征后对Source domain中的黄色向量(如下图红色框所示的向量)初始化。
在这里插入图片描述
蓝色框中的向量使用Target数据集中与上述6个64维向量距离最接近的向量均值初始化,具体过程可以参照原文。
初始化
target domain与source domain处理过程相似
在这里插入图片描述
可以看到作者在对向量初始化过程中也提到要跟新,每个类别中每个特征的均值,具体跟新过程,可以参照原文。
在这里插入图片描述
初始化Source domain 和Target domain后,对图的每个nodes初始化,我认为就是将上述6个64为向量分别赋予6个nodes,作为该nodes的特征,在整个网络中作者分为两部分,Intra-domain graph和Inter-domain graph 。
在这里插入图片描述
在Intra-domain graph和Inter-domain graph中分别包含有两个GCN网络,这两个网络权重的矩阵大小分别为64 × 128、128 × 64。下面作者的一些分析。
在这里插入图片描述
初始化节点通过图网络后,在Source domain取黄色向量,然后输入G、D。
在这里插入图片描述
在target domain中取蓝色向量,输入D。在这里插入图片描述
在这个网络中,作者提到G(即分类器)是由一个全连接层构成,全连接层权重大小为384×7,这里384代表了64×6,图网络输出总共有6个64维向量,将这6个向量concatenate为一个384维向量;7代表了网络预测表情的类别。

D判决器由两个全连接层和一个ReLu函数构成,用来判断384维向量是来源于Source domain还是Target domain。

整个网络的损失函数定义为:
在这里插入图片描述
对于G(分类器)、F(特征提取器)要使网络损失值达到最小;而D要努力判决这个向量属于Source domain还是Target domain,所以D(判决器)要使整个损失值jinl变大。

使用训练好的网络推理时,给定一张输入图片,需要提取这张图片的6个64维向量,初始化nodes。然后计算这6个向量与Source domain哪一个类别中的向量距离最小,取出这个向量初始化nodes。经过图网络和G便可以推断出这张图片中的表情。

我认为在这篇文章的思路是:利用图网络将Source domain中的向量和Target domain中的向量融合,通过对网络的训练,最终D无法判决向量来源于Target domain 还是Source domain。需要注意到此时,G可以很好的对Source domain中的图片表情分类。所以在推理过程中,输入一张图片,将该图片的特征,与Source domain中的特征融合(按照之前所说G很有可能无法分辨这个向量是一个新的向量还是Source domain中的向量),所以通过G可以很好的判断这张图片中的表情类别。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值