[深度之眼]TensorFlow2.0项目班-原理之损失函数（CE，MSE）

最新推荐文章于 2024-03-16 17:27:47 发布
最新推荐文章于 2024-03-16 17:27:47 发布
阅读量680 收藏 2
点赞数 1
分类专栏： tensorflow2.0 文章标签： tensorflow python 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42827473/article/details/106570426
版权
本文深入探讨了在TensorFlow2.0中，如何使用交叉熵（CE）和均方根误差（MSE）作为损失函数来衡量分类和回归问题的预测精度。通过实例解释，说明了为何在二分类问题中，当答案是(1,0)时，预测向量(y2=(0.8,0.2))比(y1=(0.6,0.4))更准确，以及在回归问题中，答案为[1,2,3,4]时，预测向量(y2=[2,4,6,8])相比(y1=[1,2,4,8])的误差更小。同时，介绍了利用tf.losses.categorical_crossentropy()和tf.reduce_mean(tf.square())进行损失计算的方法。" 121122191,9942725,2021年桥式起重机安全操作与理论考试详解,"['安全生产', '特种设备', '操作证', '理论考试', '起重机操作']
摘要由CSDN通过智能技术生成

TF2.0损失函数大全
分类问题常使用交叉熵损失函数（CE,Cross Entropy）表征两个概率分布之间的距离
定义为：
在这里插入图片描述
例如一个二分类问题的答案是 y_=(1,0)，预测 y1=(0.6,0.4) ，y2=(0.8,0.2)，哪个预测的更准的？

数学计算
CE1 = CE((1,0),(0.6,0.4) = -(1*ln0.6 + 0*ln0.4) = 0.511
CE2 = CE((1,0),(0.8,0.2)<
最低0.47元/天 解锁文章
TF_Keras
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
auc 损失_ICPR 2020 | CC-Loss：用于图像分类的通道相关损失函数
weixin_39920415的博客
11-09 567
CC-Loss（Channel Correlation Loss，通道相关损失），可以限制类与通道之间的特定关系，并保持类内和类间的可分离性。表现SOTA！性能优于FICAL、MC Loss和CE Loss等损失函数。CC-Loss: Channel Correlation Loss For Image Classification作者单位：北邮, 兰州理工, 奥尔堡大学论文：https://ar...
损失函数(loss)
qq_43636375的博客
03-24 1001
本文源自中国慕课网曹健老师《人工智能实践：Tensorflow笔记》一课听课笔记，课程地址：https://www.icourse163.org/learn/PKU-1002536002?tid=1452937471#/learn/content?type=detail&id=1229870565&sm=1 损失函数(loss):预测值(y)与已知答案(y_)的差距。 均方误差ms...
TensorFlow损失函数（loss function）
热门推荐
hongxue8888的博客
08-14 3万+
神经网络模型的效果及优化的目标是通过损失函数来定义的。1、经典损失函数分类问题和回归问题是监督学习的两大种类。分类问题常用方法：交叉熵（cross_entropy），它描述了两个概率分布之间的距离，当交叉熵越小说明二者之间越接近。它是分类问题中使用比较广的一种损失函数。 给定两个概率分布p和q，通过q来表示p的交叉熵为： H(p,q)=−∑xp(x)logq(x)H(p,q)=-\sum_x p
tensorflow2.0——损失函数
小白一直白
08-06 3010
目录均方误差损失函数 mean_squared_error手写代码平均绝对误差 mean_absolute_error手写代码Huber损失 huber_loss手写代码待续 在tensorflow2.0 中，使用模块model.compile时，使用loss选择损失函数。 均方误差损失函数 mean_squared_error 均方误差函数，又称mse，最基本的损失函数表示法，通常情况下mse函数会整体乘上二分之一，方便简化求导出的函数。 loss = ‘mean_squared_erro
我的机器学习支线「损失函数」
昊大侠的博客
05-24 966
语义分割结合了图像分类、目标检测和图像分割，通过一定的方法将图像分割成具有一定语义含义的区域块，并识别出每个区域块的语义类别，实现从底层到高层的语义推理过程，最终得到一幅具有逐像素语义标注的分割图像。设计损失函数想要达到的目标是损失与梯度同步变化，求导自变量定义为神经网络的最后一层带权重层的输出。当学习率恒定时，希望当预测结果远离真实值时，损失大，梯度大；当预测结果靠近真实值时，损失小，梯度小最常用损失函数是像素级别的交叉熵损失 (cross entropy loss，ce)，逐个检查每个像素，将对每个像素
TensorFlow2.0学习笔记 2.4：损失函数
weixin_44145452的博客
01-22 439
损失函数： 损失函数是前向传播计算出的结果y与已知标准答案y_的差距 神经网络的优化目标就是找到某套参数，使得计算出来的结果y和已知标准答案y_无限接近，也就是他们的差距loss值最小 主流loss有三种计算方法： 均分误差(mse) 自定义 交叉熵(ce) 一、均分误差 是前向传播计算的结果y与已知标准答案y_之差的平方。再求平均 例子一： 我把代码分开来看 import tensorflow as tf import numpy as np SEED = 23455 rdm = np.random.
tensorflow 2.0 （三）损失函数——MSE\Entropy\Hinge Loss
小白tree的博客
06-04 7027
计算预测值与正确解之间的误差是很重要的一步，一般有三种计算误差的方式 1.MSE => 有以下两种表现形式 来看看代码实现： import tensorflow as tf y = tf.constant([1,2,3,0,2]) y = tf.one_hot(y, depth=4) y = tf.cast(y, dtype=tf.float32) out = tf.random.no...
tensorflow2.0 损失函数
dudu3332的博客
10-28 3024
# 1. tf.losses.mean_squared_error：均方根误差（MSE） —— 回归问题中最常用的损失函数 # 优点是便于梯度下降，误差大时下降快，误差小时下降慢，有利于函数收敛。 # 缺点是受明显偏离正常范围的离群样本的影响较大 mse=tf.losses.mean_squared_error(y_true,y_pred) mse=tf.reduce_mean(tf.squar...
[深度之眼]TensorFlow2.0项目班-回归模型之自定义loss
qq_42827473的博客
06-05 491
常用的损失函数 分类问题：交叉熵 （CE，Cross Entropy） 回归问题：均方根误差 （MSE，Mean Square Error） 以一个简单的例子实现自定义loss 假设某商品销售金额仅由变量x1和x2确定（y=x1+x2+噪声） 用到以下tf函数： tf.where(条件，a，b) # 条件为真返回a，条件为假返回b tf.greater(a,b) # 比大小，a>b 返回真，a<=b 返回假 代码： import tensorflow as tf import nu
将线性回归模型更新为TensorFlow 2.0
04-05
接下来，实现损失函数，通常选择均方误差（MSE）作为线性回归的损失函数： ```python def loss(predicted_y, actual_y): return tf.reduce_mean(tf.square(predicted_y - actual_y)) ``` 选择优化器，如梯度下降...
TensorFlow 2.0 深度学习实战 —— 详细介绍损失函数、优化器、激活函数、多层感知机的实现原理
风尘浪子
03-28 6322
本文主要介绍了 MSE、MAE、CEE 、Hinge、Huber 等 15 个常用损失函数的计算方式和使用场景，讲解 SGD、AdaGrad、Adam、RMSProp 4类优化器的公式原理，对阶跃激活函数、Sigmoid 激活函数、ReLU激活函数、Leaky ReLU 激活函数、Tanh 激活函数、Softmax激活函数等进行分析。通过分类与回归的使用实例对 MLP 多层感知器的使用进行介绍，对比 Tensorflow 1.x 与 Tensorflow 2.x 在应用上区别。最后，讲解如何使用 dropo
TensorFlow2.0学习笔记-4.模型的自定义
ruoqi23的博客
08-06 2312
4.模型的自定义 4.1.自定义层 使用的主要数据结构是Layer 实现自定义层的最佳方法是扩展tf.keras.layers.Layer类并实现： • __init__：可以在其中进行所有与输入无关的初始化，定义相关的层 • build： 知道输入张量的形状并可以进行其余的初始化 • call： 在这里进行前向传播 注意：不一定需要在build中创建变量时，也可以在__init__中创建它们。 tf.keras.Model和tf.keras.layers.Layer有什么区别和联系？ •通...
tensorflow2.0 函数举例详解
weixin_42713739的博客
09-27 1040
import tensorflow as tf from tensorflow.keras import datasets, layers, optimizers, Sequential, metrics import numpy as np 1、tf.data.Dataset.from_tensor_slices:它的作用是切分传入Tensor的第一个维度，生成相应的dataset。 将输入的张量的第一个维度看做样本的个数，沿其第一个维度将tensor切片，得到的每个切片是一个样本数据。实现了输入张量
一个简单损失函数
william_hehe的博客
11-25 465
损失函数：刻画当前预测值和真实值之间的差距。import tensorflow as tf #定义损失函数-交叉熵 cross_entropy=-tf.reduce_mean(y_*tf.log(tf.clip_by_value(u,1e-10,1.0)))#定义学习率 learning_rate=0.001#定义优化器 train_step=tf.train.AdamOptimizer(lear
BCE损失+sigmoid搭配、CE损失+softmax激活函数
weixin_44505185的博客
04-26 1739
BCE损失+sigmoid搭配、CE损失+softmax激活函数
损失函数合集
最新发布
qq_52819488的博客
03-16 1146
交叉熵损失主要是用于判断实际输出与期望输出的接近程度交叉熵损失刻画的是实际输出的概率与期望输出的概率的距离。交叉熵损失越小，两个概率分布就越接近，即实际输出与期望输出越相似。概率分布p是期望输出，概率分布q是实际输出，得到的是两个概率分布之间的距离远近。
【深度学习】损失函数详解
LogosTR_的博客
08-16 1万+
损失函数
机器学习(四)——损失函数
qq_40739219的博客
03-08 1710
损失函数（loss）:预测值（y)与已知答案（y_）的差距，优化目标loss最小 以下1与2两个案例的loss函数都是针对酸奶日销量案例 1、均方误差mse损失函数 import tensorflow as tf import numpy as np ###拟合的是y = x1 + x2的函数 SEED = 2333 rdm = np.random.RandomState(seed=SEED) # 生成0至1不包含1之间的随机数 x = rdm.rand(32, 2)#生成32行 2列的特征 ##
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值