tensorflow中softmax_cross_entropy_with_logits函数的实现

最新推荐文章于 2022-02-10 15:31:32 发布
最新推荐文章于 2022-02-10 15:31:32 发布
阅读量1.1k 收藏
点赞数
分类专栏： Python 机器学习 文章标签： tensorflow softmax 交叉熵
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/silence2015/article/details/74853309
版权

自己实现了softmax_cross_entropy_with_logits函数的功能，算是复习下softmax和cross_entropy

这里写图片描述

更新：—————————————————

tf中实现了softmax_cross_entropy_with_logits和sparse_softmax_cross_entropy_with_logits，今天看代码看到用sparse的，在此总结下两者的异同。

两者主要在输入参数（labels）的格式不同：
softmax_cross_entropy_with_logits中logits是[batch,num_classes]
labels是[batch,num_classes]
也就是说labels是各个类别的概率

而sparse_softmax_cross_entropy_with_logits在lables上不一样，labels的输入数[batch,1]，也就是说唯一指定所属类别

Shane Zhao
关注
专栏目录
python编程之tf.nn.softmax_cross_entropy_with_logits()的用法，包你看过一次终生不退还知识
tian_jiangnan的博客
03-25 373
tf.nn.softmax_cross_entropy_with_logits()这个方法又臭又长，看到就头晕！！ 这个方法在什么时候用到？ 神经网络最后输出层时用到，计算损失率，神经网络预测出的标签与实际标签之间的误差是多少？这是评价这个模型优劣的标准。 这个方法有两个重要参数：1、logits:样本最后输出的几个特征值（如果是10类，就是10个特征值，与分类的类别数目有关） ...
tensorflow入门基础-softmax_cross_entropy_with_logits
Dream_Faquir
03-26 483
softmax_cross_entropy_with_logits函数 tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None) 除去name参数用以指定该操作的name，与方法有关的一共两个参数： 第一个参数logits：就是神经网络最后一层的输出，如果有batch的话，它的大小就是[batchsize，num_cl...
python下使用tensorflow框架通过softmax实现mnist手写数字识别功能详解
bofu_sun的博客
04-08 515
一、将要使用的函数及思路详解 1.mnist：mnist是深度学习的经典入门demo，他是由6万张训练图片和1万张测试图片构成的。我们这个项目的任务是使用神经网络的方法实现手写数字识别功能。也就是说我们希望能够训练一个神经网络，使得往神经网络中输入一张手写数字图片只后能够获得对应的这张图片中数字的输出。 2.整个任务的第一步是先要从网上下载数据集，我们可以使用python的一个脚本实现。该项目的数...
【实验】SoftMax——Python和Tensorflow实现
Lilian_zh的博客
08-06 379
#Softmax by Python import math #import numpy as np def softmax_py(logits_data): logits_exp = [math.exp(i) for i in logits_data] #logits_exp = [np.exp(i) for i in logits] print("logits_exp:",logi...
『tensorflow笔记』tf.nn.sparse_softmax_cross_entropy_with_logits()函数讲解
AI新视界
12-21 1783
参考官方文档：https://www.tensorflow.org/api_docs/python/tf/nn/sparse_softmax_cross_entropy_with_logits tf.nn.sparse_softmax_cross_entropy_with_logits( _sentinel=None, labels=None, #参数labe...
TensorFlow tf.nn.softmax_cross_entropy_with_logits的用法
09-17
在TensorFlow框架中，实现这种损失函数的一个常用方法是使用`tf.nn.softmax_cross_entropy_with_logits`函数。本文将详细介绍这一函数的使用方法，并通过代码示例帮助读者更好地理解其工作原理。 #### 函数定义及...
sigmoid_cross_entropy_with_logits,softmax_cross_entropy_with_logits,sparse_softmax_cross_entropy_…
01-20
tf.nn.sigmoid_cross_entropy_with_logits 函数的计算方式就是对输出值先算sigmoid，然后与真实值做交叉商运算。 sigmoid函数的定义：11+e−x\displaystyle\frac{1}{1+e^{-x}}1+e−x1​ 交叉商的计算方式：−(labels...
tensorflow损失函数之：softmax_cross_entropy_with_logits和softmax_cross_entropy_with_logits_v2的区别
大雄没有叮当猫的博客
09-19 2220
tf.nn.softmax_cross_entropy_with_logits(     _sentinel=None,     labels=None,     logits=None,     dim=-1,     name=None ) tf.nn.softmax_cross_entropy_with_logits_v2(     _sentinel=None,     label...
关于softmax_cross_entropy_with_logits以及sparse_softmax_cross_entropy
the_little_fairy___的博客
11-10 1096
1、softmax_cross_entropy_with_logits() 函数原型： tf.nn.softmax_cross_entropy_with_logits(_sentinel=None, labels=None, logits=None, dim=-1, name=None) 注意： 1、这个操作的输入logits是未经缩放的，该操作内部会对logits使用softmax操作。 ...
tensorflow中四种不同交叉熵函数tf.nn.softmax_cross_entropy_with_logits() -
08-03
本文将详细介绍TensorFlow中提供的四种不同类型的交叉熵函数`tf.nn.softmax_cross_entropy_with_logits()`。 1. **Sigmoid交叉熵**： `tf.nn.sigmoid_cross_entropy_with_logits(labels, logits, name=None)` 用于...
tensorflow中常用交叉熵损失函数(cross_entropy)的比较总结与代码示例
01-20
本文将对以下几种tensorflow中常用的交叉熵损失函数进行比较： tf.losses.sigmoid_cross_entropy tf.nn.sigmoid_cross_entropy_with_logits tf.losses.softmax_cross_entropy tf.nn.softmax_cross_entropy_with_logits_v2 tf.losses.sparse_softmax_cross_entropy 1. tf.losses.sigmoid_cross_entropy import tensorflow as tf batch_size = 4
3.2 softmax多分类、tensorflow2实现——python实战
炫云云
02-10 1117
带你全面理解逻辑回归，使用tensorflow2从零开始构建。 教会你 one-hot 准确率 交叉熵损失函数 加载数据构建Dataset 可视化Dataset数据 划分测试与训练数据 建立softmax分类模型 感谢你的阅读，专栏文章持续更新，希望感兴趣的伙伴点个赞，关注不迷路！你的支持是我前进的动力！ 深耕于机器学习算法、深度学习、数据分析等领域，希望我这微不足道的知识能帮到您。
TensorFlow 实现Softmax Regression识别手写数字
pain_gain0的博客
08-31 606
TensorFlow 实现Softmax Regression识别手写数字 1.数据准备 1.1.图像是28像素*28像素大小的灰度图片，即每个样本又784维特征（28*28 = 784）；故丢弃图像的二维结构信息 ，图片变成一个很长的1维向量。空间结构信息，将在卷积神经网络被使用。 1.2 训练数据特征 ：55000*784 第一维度 是图片编号；第二维度是图片中像素点编号。 1.3 数...
深度学习（一）——placeholder的使用
qq_41386300的博客
09-26 2108
使用placeholder import tensorflow as tf # 让我们修改前面的代码去实现Mini-Batch梯度下降 # 为了去实现这个，我们需要一种方式去取代X和y在每一次迭代中，使用一小批数据 # 最简单的方式去做到这个是去使用placeholder节点 # 这些节点特点是它们不真正的计算，它们只是在执行过程中你要它们输出数据的时候去输出数据 # 它们会传输训练数据给Ten...
Tensorflow - Tutorial (2) : 利用softmax回归进行手写数字识别
Joe的博客
09-10 7717
Tensorflow - Tutorial (2) : 利用softmax进行手写数字识别
tensorflow学习序列-MNIST数据集合上的softmax分类模型
hit1524468的专栏
03-26 1172
tensorflow的整个框架其实由两个部分组成：第一个部分：会话制定，在这一个阶段中，我们可能要如下内容：定义tensor，其实就是数据；定义节点op，其实可以理解为数据流出或流入的节点，当然数据流入流出可能需要进行计算，也是在这里定义的；定义变量Variable，保存图模型的一些状态，其实我们最关心的是想要学习的参数；定义目标损失函数，就是最优化的目标；定义最优化的方法；最后开启会话，进行图计...
tensorflow2教程-随机梯度下降-反向传播
weixin_43729570的博客
12-10 294
常见激活函数的梯度 1、ReLU 函数 2、sigmod函数 a = tf.linspace(-10., 10., 10) with tf.GradientTape() as tape: tape.watch(a) # 如果将a定义为Variable，此句话可以省略 y = tf.sigmoid(a) grads = tape.gradient(y, [a]) 3、tanh函数 4、lea...
softmax_cross_entropy_with_logits & sparse_softmax_cross_entropy_with_logit区别
空字符
07-11 2761
1.相同点 两者都是先经过softmax处理，然后来计算交叉熵，并且最终的结果是一样的，再强调一遍，最终结果都一样。那既然有了softmax_cross_entropy_with_logits 这个方法，那么sparse_softmax_cross_entropy_with_logit 有何用？ 按照《TensorFlow实战Google深度学习框架》中的说法：在只有一个正确答案的分类问题中，...
透彻理解熵（包括信息熵和交叉熵）
张家四少
08-19 5297
信息论（熵的基础） 熵 相对熵（KL散度） 交叉熵 机器学习中交叉熵的应用 为什么要用交叉熵做loss函数？ 交叉熵在单分类问题中的使用 交叉熵在多分类问题中的使用 sigmoid激活函数（承接上面多分类用Sigmoid不用Softmax） 代码实现 画图 softmax激活函数 Softmax主要优点 实现代码 多类分类及多标签分类（承接上面Sigmoid在多标签中的...
sparse_softmax_cross_entropy_with_logits
最新发布
03-16
sparse_softmax_cross_entropy_with_logits是一个用于计算分类问题中损失函数的函数，它将logits（未经过softmax的输出）与稀疏标签（只有一个标签是1，其余都是）进行比较，并计算交叉熵损失。这个函数通常用于多...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值