交叉熵的计算

本文介绍了在孪生神经网络中如何使用交叉熵作为损失函数。当两个输入图像相同标签为1,不同则标签为0。通过将网络预测与实际标签的交叉熵求和,得到损失值。举例并展示了交叉熵的公式,旨在帮助读者理解这一概念。
摘要由CSDN通过智能技术生成

在学习孪生神经网络的时候,讲到Loss计算的时候,看到了一个概念——交叉熵,查了有关资料之后,觉得得到了答案,所以跟大家分享一下。我先附一下我看到的交叉熵是用在哪的。

对于孪生神经网络而言,其具有两个输入:

当两个输入指向同一个类型的图片时,此时标签为1。

当两个输入指向不同类型的图片时,此时标签为0。

然后将网络的输出结果和真实标签进行交叉熵运算,就可以作为最终的loss了。

当我们输入如下两个相似图片甚至同一图片的时候,我们希望网络的输出为1。
我们会将预测结果和1求交叉熵。

当我们输入两个不相似图片的时候,我们希望网络的输出为0。
我们会将预测结果和0求交叉熵。

那么交叉熵是怎么运算的呢?
先来看一下公式:

在这里插入图片描述
再来看一个别人发过的例子:
在这里插入图片描述
希望能帮到大家!
参考:https://blog.csdn.net/m0_37727776/article/details/80479214?ops_request_misc=%257B%2522request%255Fid%2522%253A%2

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值