【mindspore】【Loss模块】关于nn.SoftmaxCrossEntropyWithLogits的疑惑

最新推荐文章于 2023-06-20 16:30:33 发布
最新推荐文章于 2023-06-20 16:30:33 发布
阅读量245 收藏
点赞数
文章标签： 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45666880/article/details/125457329
版权

MindSpore SoftmaxCrossEntropyWithLogits 损失函数 类别不匹配 模型训练
关键词由CSDN通过智能技术生成

问题描述：

nn.SoftmaxCrossEntropyWithLogits

【操作步骤&问题现象】

使用nn.SoftmaxCrossEntropyWithLogits 这个loss时，发现模型输出为80个类的logits，而数据集提供的label类别有400个，依然可以使用model.train训练，这是正常的么？不应该是logits和label的类别数量不一致然后无法训练么？还是说它会对logits进行补0？

解答：

nn.SoftmaxCrossEntropyWithLogits API文档里没有要求输入shape一致。从官网例子来看，sparse为True时，logits shape为(N, C)，labels shape为(N)

比较与tf.nn.softmax_cross_entropy_with_logits的功能差异 — MindSpore master documentation

这里比较了该算子与TensorFlow的差异

小乐快乐
关注
tf.nn.softmax_cross_entropy_with_logits详解
weixin_45558166的博客
09-02 2681
欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客： 全新的界面设计 ，将会带来全新的写作体...
华为AI计算框架昇思MindSpore零基础快速入门 (下)
Echo-26的博客！
06-07 984
哔哩哔哩：https://www.bilibili.com/video/BV1CS4y1z72r?spm_id_from=333.999.0.0 Gitee：https://gitee.com/mindspore GitHub：https://github.com/mindspore-ai 官方QQ群：486831414 公众号：MindSpore 小助手微信：mindspore0328
mindspore.nn.SoftmaxCrossEntropyWithLogits不支持四维tensor输入
xi_xiyu的博客
10-28 197
1、使用mindspore.nn.SoftmaxCrossEntropyWithLogits（）对pytorch的torch.CrossEntropyLoss（）进行迁移，pytorch支持输入4维度tensor，但mindspore的该算子不支持4维度的tensor，请问该如何解决。目前 mindspore.ops.SoftmaxCrossEntropyWithLogits 只支持二维输入。如果输入tensor是四维的话，可以使用其他的Loss function。（可选，上传日志内容或者附件）
mindspore.nn.SoftmaxCrossEntropyWithLogits如何支持四维tensor输入
最新发布
xi_xiyu的博客
06-20 301
1、使用mindspore.nn.SoftmaxCrossEntropyWithLogits（）对pytorch的torch.CrossEntropyLoss（）进行迁移，pytorch支持输入4维度tensor，但mindspore的该算子不支持4维度的tensor，请问该如何解决。目前 mindspore.ops.SoftmaxCrossEntropyWithLogits 只支持二维输入。如果输入tensor是四维的话，可以使用其他的Loss function。【操作步骤&问题现象】
tensorflow 中softmax_cross_entropy_with_logits的使用
weixin_38208741的博客
12-17 3002
"最后的输出" = conv_model(x, weights, biases)['out']  cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y, logits=“最后的输出”))  optm = tf.train.AdamOptimizer(learning_rate=learning_rate).
机器学习 - 损失计算-softmax_cross_entropy_with_logits
weixin_30763455的博客
02-14 217
tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None) 第一个参数logits：就是神经网络最后一层的输出 第二个参数labels：实际的标签 具体的执行流程大概分为两步： 第一步是先对网络最后一层的输出做一个softmax，这一步通常是求取输出属于某一类的概率，对于单样本而言，输出就是一个num...
python mindspore.nn中的损失函数
05-05
这些损失函数都可以通过导入`mindspore.nn`模块来使用。例如，`nn.SoftmaxCrossEntropyWithLogits`可以通过以下代码使用： ``` import mindspore.nn as nn loss = nn.SoftmaxCrossEntropyWithLogits(sparse=True) ...
MindSpore mnist手写体识别实验替换损失函数
05-05
在MindSpore中，可以使用`nn.SoftmaxCrossEntropyWithLogits`作为损失函数来进行手写体识别实验。如果你想要替换成其他的损失函数，可以按照以下步骤进行操作： 1. 导入需要使用的损失函数模块，例如`nn.L1Loss`或`...
Window10 上MindSpore(CPU)用LeNet网络训练MNIST
sun_5flower的博客
09-21 3233
Windows10 Miniconda 4.8.3 Python 3.7.7 MindSpore r0.7 mindspore的gitee地址 本文是在windows10上安装了CPU版本的Mindspore,并在mindspore的master分支基础上使用LeNet网络训练MNIST数据集，实践已训练成功，此文为记录过程中的出现问题； 【1】首先使用conda activate mindspore 进入mindspore虚拟环境 【2】再切入mindspore中lenet网络的train.py所在.
python在mindspore框架下实现卷积网络模型分类afhq图像数据集
06-10
好的，让我来为你提供一些关于使用MindSpore框架在Python中实现卷积神经网络模型分类afhq图像数据集的步骤。 首先，你需要安装MindSpore框架和下载afhq数据集。然后，你需要按照以下步骤进行： 1. 导入必要的库和...
【MindSpore】【SoftmaxCrossEntropyWithLogits】如何计算带有class_weight的交叉熵
weixin_45666880的博客
07-27 249
训练数据分布不均匀，需要对类别施加权重——class_weight，该如何改写mindspore.nn.SoftmaxCrossEntropyWithLogits呢，希望可以给出示例代码。损失函数的定义方式是通用的，本质上就是一个Cell，在其中实现需要的算法就可以了。...
tf.nn.softmax_cross_entropy_with_logits的用法
machinezj的博客
03-06 903
tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None) 除去name参数用以指定该操作的name，与方法有关的一共两个参数： 第一个参数logits：就是神经网络最后一层的输出，未经过soft_max 第二个参数labels：实际的标签，需要是one-hot格式 具体的执行流程大概分为两步： 第一步是先对网络...
tf.softmax_cross_entropy_with_logits()的应用
LTC_1234的博客
06-28 440
文章目录softmax_cross_entropy_with_logits介绍代码实现 softmax_cross_entropy_with_logits介绍 在计算最小化代价值的时候，我们通常使用tf.softmax_cross_entropy_with_logits()，其原型是： tf.nn.softmax_cross_entropy_with_logits(labels=y, logits=pred, name=None) 函数功能：计算最后一层是softmax层的cross entropy，把so
对tf.nn.softmax的理解
wgj99991111的博客
10-31 5万+
Softmax的含义：Softmax简单的说就是把一个N*1的向量归一化为（0，1）之间的值，由于其中采用指数运算，使得向量中数值较大的量特征更加明显。 如图所示，在等号左边部分就是全连接层做的事。 W是全连接层的参数，我们也称为权值；W是全连接层的参数，是个T*N的矩阵，这个N和X的N对应，T表示类别数，比如你进行手写数字识别，就是10个分类，那么T就是7。 X是全连接层的输入，也就是特征。...
pytorch基础（六）：torch.nn.Softmax和torch.nn.CrossEntropyLoss
only my railgun
11-26 2945
文章目录前言一、问题描述二、torch.nn.Softmax三、torch.nn.CrossEntropyLoss总结 前言   本系列主要是对pytorch基础知识学习的一个记录，尽量保持博客的更新进度和自己的学习进度。本人也处于学习阶段，博客中涉及到的知识可能存在某些问题，希望大家批评指正。另外，本博客中的有些内容基于吴恩达老师深度学习课程，我会尽量说明一下，但不敢保证全面。 一、问题描述   用完成吴恩达老师的课后训练时，要求使用softmax层完成一个多分类，pytorch框架有封装好的sof
【TensorFlow】tf.nn.softmax_cross_entropy_with_logits的用法
热门推荐
xf__mao的博客
11-28 11万+
在计算loss的时候，最常见的一句话就是tf.nn.softmax_cross_entropy_with_logits，那么它到底是怎么做的呢？ 首先明确一点，loss是代价值，也就是我们要最小化的值 tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None) 除去name参数用以指定该操作的name，与方法有关的
tf.softmax_cross_entropy_with_logits()的计算过程及代码演示
littlehaes的博客
10-26 1万+
欢迎访问我的个人主页 tf.softmax_cross_entropy_with_logits()的计算过程一共分为两步:1.将logits转换成概率；2.计算交叉熵损失 1.将logits转换成概率 比如某个logits = [2, 7, 5],使用softmax将logits转换成概率,就是按照公式:ex∑ex\frac {e^x}{\sum e^x}∑exex​计算logits中每个元素的...
MindSpore:损失函数nn.SoftmaxCrossEntropyWithLogits 解析
BaldheadedM的博客
08-11 1561
1、由于数据批处理的原因，接口参数logits只支持二维输入，第一维度表示的是batch size；2、sparse 参数取不同的值，对输入labels的shape和type有不同的要求；3、reduction 参数可以指定应用于输出结果的计算方式，例如求均值、求和等。...
基于昇思MindSpore，实现使用胶囊网络的图像描述生成算法
Kenji_Shinji的博客
12-12 534
因为图像描述生成任务涉及到对图片和文本的处理，因此训练数据的格式也具有多种类型，其中图像特征是使用Faster RCNN预处理好的矩阵，词表以txt文件存储，描述语句使用数组进行存储，因此我们使用自定义数据集来生成训练批次，首先定义一个数据类，类中实现__getitem__作为可迭代对象返回数据，使用GeneratorDataset组装数据类，从而进行混洗和抽取批次。对于Decoder来说同理。因为卷积是局部连接和参数共享的，并没有考虑到特征之间的相互关联和相互位置关系，即没有学习到特征之间的位姿信息；
mindspore.nn.SoftmaxCrossEntropyWithLogits
04-06
SoftmaxCrossEntropyWithLogits is a loss function in MindSpore's neural network module that computes the cross-entropy loss between the predicted logits and the true labels. It consists of two main ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值