tf.keras.losses.SparseCategoricalCrossentropy详解

最新推荐文章于 2023-01-13 18:27:00 发布
最新推荐文章于 2023-01-13 18:27:00 发布
阅读量1.2k 收藏
点赞数 1
分类专栏： tensorflow2使用 文章标签： keras 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_19069557/article/details/127828259
版权

目录

tf.keras.losses.SparseCategoricalCrossentropy的作用

tf.keras.losses.SparseCategoricalCrossentropy的示例

tf.keras.losses.SparseCategoricalCrossentropy的作用

计算估计值和标签的交叉熵损失函数值。

交叉熵，描述两个分布之间的差异，比如估计的概率分布和观测到的概率分布之间的差异。最小化交叉熵等价于最大似然估计。

最大似然估计（极大似然估计），观测到某种事件发生的概率，估计系统参数为什么值的时候，最可能出现这种观测结果。

概率值，已知系统参数的前提下，某种事件发生的概率。

似然估计，观测到某种事件发生的概率，估计系统的参数。

假设有一个分类器\theta，将输入分成A，B，C三类。分为A的概率P_{A}为0.3，分为B的概率P_{B}为0.5，分为C的概率P_{C}为0.2。现在有10个观测数据x，4个A，3个B,  3个C。出现这组观测结果的概率是什么？

了解本专栏 订阅专栏 解锁全文 超级会员免费看
象象家的小蜜桃
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
tf.keras.losses.SparseCategoricalCrossentropy
一个学术five的blog
11-13 2650
tf.keras.losses.SparseCategoricalCrossentropy
tf.keras.losses.SparseCategoricalCrossentropy() 稀疏交叉熵 损失函数 示例
weixin_44493841的博客
11-22 2767
import tensorflow as tf 标签为独热编码 y_true = [1, 2] # 正确标签 y_pred = [[0.05, 0.95, 0], [0.1, 0.8, 0.1]] # 预测标签 分类的概率（独热编码） loss = tf.keras.losses.SparseCategoricalCrossentropy() # 稀疏分类交叉熵 loss(y_true, y_pred).numpy() 1.1769392 ...
tf.keras.losses.SparseCategoricalCrossentropy 学习总结
sslfk的博客
01-13 858
SparseCategoricalCrossentropy相关参数解析
TensorFlow tf.keras.losses.CategoricalCrossentropy
Claroja
08-11 9010
用于多分类问题,传入的是one-hot编码目标,如果是int类型的编码目标,使用SparseCategoricalCrossentropy 下面这个例子中y_pred和y_true的形状是[batch_size, num_class],既每次输入batch_size是3,就是3个样本同时输入,分类数量是3,既one-hot编码是3个分类. cce = tf.keras.losses.Categor...
交叉熵损失
梦想天空
09-24 4752
在分类的任务中，往往会使用交叉熵损失函数。对于二分类，使用的是binary_crossentropy，在多分类的任务中，使用的时sparse_categorical_crossentropy和categorical_crossentropy，本文将详细的介绍这三种损失函数
tf.keras_分类模块数据归一化.ipynb_quietlyxoc_keras_归一化_lateory_tf.keras_源
10-01
2. **使用预处理层（Preprocessing Layers）**：`tf.keras.layers.Normalization`是`tf.keras`提供的一个预处理层，可以方便地在模型内部进行数据归一化。只需定义一个该层，然后在训练前用数据拟合其均值和标准差...
tf.keras.layers.Layer自定义层
12-20
class MyLayer(tf.keras.layers.Layer): def __init__(self, output_dim, **kwargs): self.output_dim = output_dim super(MyLayer, self).__init__(**kwargs) def build(self, input_shape): # Create a ...
tf.keras.datasets
07-15
`tf.keras.datasets`是TensorFlow库中的一个模块，专门用于提供各种常见的机器学习和深度学习数据集。这些数据集在机器学习模型的训练、验证和测试中起着至关重要的作用，因为它们允许开发者快速地实验和比较不同...
tf.keras.datasets数据源
08-02
boston_housing module: Boston housing price regression dataset. cifar10 module: CIFAR10 small images classification dataset. ...tf.keras.datasets.reuters.get_word_index( path='reuters_word_index.json' )
Keras中的多分类损失函数用法categorical_crossentropy
12-17
from keras.utils.np_utils import to_categorical 注意：当使用categorical_crossentropy损失函数时，你的标签应为多类模式，例如如果你有10个类别，每一个样本的标签应该是一个10维的向量，该向量在对应有值的索引位置为1其余为0。 可以使用这个方法进行转换： from keras.utils.np_utils import to_categorical categorical_labels = to_categorical(int_labels, num_classes=None) 以mnist数据集为例： from ke
基于tf.keras的多标签多分类模型.zip
最新发布
04-03
我们可以使用`tf.keras.applications.Xception`来加载模型，并移除顶部的`include_top=False`。 ```python from tensorflow.keras.applications import Xception base_model = Xception(weights='imagenet', ...
keras中不同的损失函数
wusanchui的博客
07-26 2065
Keras使用不同损失函数的方式： model.compile(loss='损失函数名', optimizer='sgd') from keras import losses model.compile(loss=losses.损失函数名, optimizer='sgd') mean_absolute_percentage_error（MAPE） 定义： def...
tf.keras.losses详解
LeeG_IOT的博客
08-22 7518
tf.keras.losses实例是用来计算真实标签（ y_true ）和预测标签之间（ y_pred ）的loss损失。 参数：from_logits：是否将 y_pred 解释为 logit 值的张量。 默认情况下，假设 y_pred 包含概率（即 [0, 1] 中的值）。即默认情况下from_logits的值为False 解释一下logit值的含义：逻辑回归一般将因变量二分类变量的0-1转变为频率[0,1]，变成odds（优势比，[0,+∞]），然后log一下成为Logit值([-∞,+∞])，简
Keras损失函数：categorical_crossentropy和sparse_categorical_crossentropy的区别
CxsGhost的博客
05-13 9705
按照keras之父的书中所写： 如果 labels 是 one-hot 编码，用 categorical_crossentropy 　　one-hot 编码： 　　[[0, 1, 0], 　　 [1, 0, 0], 　　 [0, 0, 1]] 　　 每条每一行是一个label的编码，1所在的位置代表label 如果你的 tagets 是 数字编码 ，用 sparse_categorical_crossentropy 　　数字编码：[2, 0, 1, 5, 19] 　　每个数字就是label 书中写道：这
TensorFlow tf.keras.losses.SparseCategoricalCrossentropy
Claroja
08-11 9533
下面的例子,y_true的形状是[batch_size],y_pred的形状是[batch_size,num_class]. 也就是说y_pred经过softmax层之后,是one-hot编码,SparseCategoricalCrossentropy将y_true变成了one-hot编码. cce = tf.keras.losses.SparseCategoricalCrossentropy()...
Tensorflow中CategoricalCrossentropy()和SparseCategoricalCrossentropy()的区别
weixin_45746505的博客
12-19 645
Tensorflow中CategoricalCrossentropy()和SparseCategoricalCrossentropy()的区别
SparseCategoricalCrossentropy的计算
一只小蛙牛的博客
01-28 2736
在搭建深度学习模型，构建损失函数经常用到交叉熵函数，同时用到SparseCategoricalCrossentropy。于是查找下文件，通过计算理解该函数。 m = tf.keras.metrics.SparseCategoricalCrossentropy() m.update_state( [1, 2], [[0.05, 0.9, 0.05], [0.1, 0.8, 0.1]]) # y_true = one_hot(y_true) = [[0, 1, 0], [0, 0, 1]] # log
keras中的损失函数
热门推荐
somTian的博客
03-16 1万+
mean_squared_error mean_absolute_error mean_absolute_percentage_error mean_squared_logarithmic_error squared_hinge hinge categorical_hinge logcosh categorical_crossentropy sparse_categorical_crosse...
tf.keras.losses.sparsecategoricalcrossentropy
03-16
这是一个用来计算稀疏分类交叉熵损失的TensorFlow函数。`tf.keras.losses.sparsecategoricalcrossentropy` 是 TensorFlow 的一个损失函数，用于计算稀疏分类交叉熵损失。它适用于标签是稀疏矩阵或整数的多类分类问题。相对于 `categorical_crossentropy`，该函数不要求标签进行独热编码，而是可以直接使用整数标签。 具体来说，该函数计算的是标签与预测值之间的交叉熵损失。假设有 $N$ 个样本，$C$ 个类别，其中第 $i$ 个样本的真实标签为 $y_i$，预测标签为 $\hat{y}_i$，则该函数的计算公式为： $$ \text{loss} = -\frac{1}{N} \sum_{i=1}^{N} \sum_{j=1}^{C} \text{y}_{\text{i,j}} \log(\hat{\text{y}}_{\text{i,j}}) $$ 其中 $\text{y}_{\text{i,j}}$ 是一个指示函数，当真实标签为 $j$ 时为 $1$，否则为 $0$。 可以使用该函数作为 Keras 模型的损失函数，例如： ```python import tensorflow as tf model = tf.keras.models.Sequential([ tf.keras.layers.Dense(64, activation='relu'), tf.keras.layers.Dense(10, activation='softmax') ]) model.compile(optimizer='adam', loss=tf.keras.losses.sparse_categorical_crossentropy, metrics=['accuracy']) ``` 在训练模型时，将会使用 `sparse_categorical_crossentropy` 作为损失函数进行优化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

象象家的小蜜桃

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值