4.9 内容代价函数-深度学习第四课《卷积神经网络》-Stanford吴恩达教授


←上一篇↓↑下一篇→
4.8 代价函数回到目录4.10 风格代价函数

内容代价函数 (Content cost function)

在这里插入图片描述

风格迁移网络的代价函数有一个内容代价部分,还有一个风格代价部分。

J ( G ) = α J c o n t e n t ( C , G ) + β J s t y l e ( S , G ) J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G) J(G)=αJcontent(C,G)+βJstyle(S,G)

我们先定义内容代价部分,不要忘了这就是我们整个风格迁移网络的代价函数,我们看看内容代价函数应该是什么。

在这里插入图片描述

假如说,你用隐含层 l l l 来计算内容代价,如果 l l l 是个很小的数,比如用隐含层1,这个代价函数就会使你的生成图片像素上非常接近你的内容图片。然而如果你用很深的层,那么那就会问,内容图片里是否有狗,然后它就会确保生成图片里有一个狗。所以在实际中,这个层 l l l 在网络中既不会选的太浅也不会选的太深。因为你要自己做这周结束的编程练习,我会让你获得一些直觉,在编程练习中的具体例子里通常 l l l 会选择在网络的中间层,既不太浅也不很深,然后用一个预训练的卷积模型,可以是VGG网络或者其他的网络也可以。

在这里插入图片描述

现在你需要衡量假如有一个内容图片和一个生成图片他们在内容上的相似度,我们令这个 a [ l ] [ C ] a^{[l][C]} a[l][C] a [ l ] [ G ] a^{[l][G]} a[l][G] ,代表这两个图片 C C C G G G l l l 层的激活函数值。如果这两个激活值相似,那么就意味着两个图片的内容相似。

我们定义这个

J c o n t e n t ( C , G ) = 1 2 ∣ ∣ a [ l ] [ C ] − a [ l ] [ G ] ∣ ∣ 2 J_{content}(C,G)=\frac12||a^{[l][C]}-a^{[l][G]}||^2 Jcontent(C,G)=21a[l][C]a[l][G]2

为两个激活值不同或者相似的程度,我们取 l l l 层的隐含单元的激活值,按元素相减,内容图片的激活值与生成图片相比较,然后取平方,也可以在前面加上归一化或者不加,比如 1 2 \frac12 21 或者其他的,都影响不大,因为这都可以由这个超参数 α \alpha α 来调整( J ( G ) = α J c o n t e n t ( C , G ) + β J s t y l e ( S , G ) J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G) J(G)=αJcontent(C,G)+βJstyle(S,G) )。

要清楚我这里用的符号都是展成向量形式的,这个就变成了这一项( a [ l ] [ C ] a^{[l][C]} a[l][C] )减这一项( a [ l ] [ C ] a^{[l][C]} a[l][C] )的 L 2 L2 L2 范数的平方,在把他们展成向量后。这就是两个激活值间的差值平方和,这就是两个图片之间 l l l 层激活值差值的平方和。后面如果对 J ( G ) J(G) J(G) 做梯度下降来找 G G G 的值时,整个代价函数会激励这个算法来找到图像 G G G ,使得隐含层的激活值和你内容图像的相似。

这就是如何定义风格迁移网络的内容代价函数,接下来让我们学习风格代价函数。

课程板书

在这里插入图片描述
在这里插入图片描述


←上一篇↓↑下一篇→
4.8 代价函数回到目录4.10 风格代价函数

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Zhao-Jichao

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值