Tensorflow 2.x(keras)源码详解之第十一章：keras损失函数及自定义损失函数

已于 2023-03-31 14:37:16 修改
阅读量2.3w 收藏 13
点赞数 12
分类专栏： Tensorflow2/keras基础课程 文章标签： tensorflow keras 损失函数
于 2022-05-23 17:47:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43178406/article/details/124931713
版权

  大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的知识进行总结与归纳，不仅形成深入且独到的理解，而且能够帮助新手快速入门。

  本文主要介绍了Tensorflow 2.x(keras)源码详解之第十一章：keras损失函数及自定义损失函数，希望能对学习TensorFlow 2的同学有所帮助。

文章目录

1. API使用(初印象)

  • 损失函数指标位于tf.keras.losses模块下，该模块下的损失函数都是一个类，需要实例化后，调用相应的方法，以tf.keras.losses.BinaryCrossentropy为例，本小节仅说明使用方法，具体参数的含义见xxx章xxx节:
    • 实例化类对象可能涉及的参数：
      • from_logits
      • label_smothing
      • reduction
      • name
      • axis
    • 调用类对象可能涉及的参数：
      • y_true
      • y_pred
      • sample_weight
# Example 1: (batch_size = 1, number of samples = 4)
y_true =
了解本专栏 订阅专栏 解锁全文 超级会员免费看
爱编程的喵喵
关注
  • 12
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
keras 自定义loss损失函数,sample在loss上的加权和metric详解
12-17
在机器学习领域，损失函数（Loss Function）是衡量模型预测结果与实际数据间差距的度量，而评估指标（Metric）则是用来评价模型性能的一种工具。在Keras中，你可以根据实际需求自定义这两者来优化和理解模型的训练...
Highway_Conv1d_Keras_Tensorflow2:pytorch，keras和tensorflow2.x中的conv1d公路网络
04-09
本项目聚焦于一种特殊的卷积层——一维卷积层（Conv1D），并展示了如何在PyTorch、Keras以及TensorFlow 2.x框架中实现。下面我们将详细探讨一维卷积层及其在高速公路网络（Highway Networks）中的应用。 一维卷积层...
keras自定义loss
Fwuyi的博客
07-17 3415
算‘myself_loss’,x2和trainY2算‘myself_loss’,x3和trainY3算‘myself_loss’，而模型的输入是。如果有多个loss，那么loss_weights对应每个loss的权重，最后输出loss的和。loss损失函数是编译模型model.compile时所需的参数之一，可以用损失函数名或者。Keras会为Model的每一个输出out构建一个loss，这些loss之间无法交互。同时，Model中每一个outut都必须在fit()有对应的y_ture。..........
keras自定义损失函数的方法
辉的博客
07-29 2614
我们可以通过编写一个返回标量并接受两个参数（即真值和预测值）的函数，在Keras中创建一个自定义损失函数。然后，我们将自定义损失函数传递给model.compile作为参数，就像处理任何其他损失函数一样。原文链接https//blog.csdn.net/miemieyang999/article/details/113498594。keras在搭建神经网络时，提供了非常多便捷的函数，这里介绍一下如何自定义神经网络损失函数的方法。...
Tensorflow_keras实战（五）:自定义损失函数和DenseLayer
XB_please的博客
09-15 1188
目录 1.自定义损失函数 2.自定义DenseLayer 2.1 带参 2.2 不带参 1.自定义损失函数 import matplotlib as mpl import matplotlib.pyplot as plt %matplotlib inline import numpy as np import pandas as pd import os import sklearn import...
tensorflow.keras损失函数的标准格式及包装（损失函数传参方法）
豆芽菜
02-09 2391
tensorflow.keras官方标准格式的损失函数包括损失函数本身和一个包装函数，使用时可以直接使用损失函数本身。以tensorflow_core/python/keras/losses.py（tf1.15）中的交叉熵损失函数为例，包括损失函数本身categorical_crossentropy和包装函数CategoricalCrossentropy，包装函数本身参数更多，例如reduction，并实现对y_true和y_pred参数的包装。 在使用时，不带参数时，可以...
tf.keras快速入门——自定义损失函数（一）
梦否
02-03 2584
官网的自定义损失函数：here 在官网中，我们可以看见给出了两种方法来使用Keras提供自定义损失。 1. 简单的均方误差 def custom_mean_squared_error(y_true, y_pred): return tf.math.reduce_mean(tf.square(y_true - y_pred)) model.compile(optimizer=keras.optimizers.Adam(), loss=custom_mean_squared_error) 这
keras:model.compile损失函数的用法
09-16
Keras 是一个高级神经网络 API，构建在 TensorFlow、Theano 和 CNTK 之上，提供了简单易用的接口来构建和训练神经网络。在 Keras 中，`model.compile()` 是用于配置模型训练过程的关键步骤，其中包括指定损失函数...
keras自定义损失函数并且模型加载的写法介绍
12-17
本文将详细介绍如何在 Keras 中自定义损失函数以及在模型加载时如何处理这些自定义函数。 首先，让我们了解为什么需要自定义损失函数。标准的损失函数，如交叉熵（cross-entropy）或均方误差（MSE），可能并不总是...
【Tensorflow】tensorflow中的损失函数介绍
qq_41167073的博客
02-16 2631
tensorflow中的损失函数介绍 本文参考借鉴了：损失函数loss大大总结，地址：https://blog.csdn.net/qq_14845119/article/details/80787753 并参考官方文档整理而成。 一. 分类损失函数 1.二分类交叉熵损失sigmoid_cross_entropy： Aliases: tf.losses.sigmoid_cross_entropy(...
keras 如何优雅地实现多个自定义损失函数
qq_27273975的博客
12-23 3820
keras 如何优雅地实现多个自定义损失函数 之前跑SRGAN模型的时候，由于有多个损失函数（content loss、adversarial loss、perceptual loss）当时采用的是train_on_batch进行训练的。但是发现相比于model.fit，train_on_batch的训练速度会慢很多（虽然我也不知道为啥）而且还无法显示loss变化的进度调，所以就让人很难受QAQ。后来看见知乎上这位作者的文章，简直是如获至宝了，那现在就说一下我是怎么使用keras的自定义损失函数的吧。 主要
Keras部分源码赏析
家有代码初写成 的博客
01-13 4299
Keras 源码分析 此文档中，凡代码里用pass，均系省略源码以便阅读，起“本枝百世”之用。此注明者，乃pass非源码所有，勿叫读者疑心不解也。 [TOC] Keras 概览 我们从一个简单的全连接分类器来看Keras的设计原则和阅读源代码。在Keras的官网上有这样一个简单全连接网络的示例The Sequential model API： import keras from ker...
Keras/TensorFlow 交叉熵损失函数中的 from_logits 参数
drin201312的博客
03-03 5664
文章目录1. from_logits 的两种使用方法。2. from_logits=True 是一个简便操作。3. logit 与 sigmoid 互为反函数。 1. from_logits 的两种使用方法。 在 Keras 的二元交叉熵损失函数（binary crossentropy，下面简称为 bce）中，有 from_logits 这个参数。在使用时需要分下面 2 种情况： 如果输入给 bce 的是一个 logit 值（大小范围 [-∞, +∞] ），则应该设置 from_logits=Tru
Keras常用分类损失函数
Forskamse's Blog
04-21 6818
本文研究Keras自带的几个常用的Loss Functions。 categorical_crossentropy VS. sparse_categorical_crossentropy 先看categorical_crossentropy和sparse_categorical_crossentropy。 categorical_crossentropy sparse_categorical_...
Keras loss函数
热门推荐
u011311291的博客
04-16 1万+
''' Created on 2018-4-16'''def compile( self, optimizer, #优化器 loss, #损失函数,可以为已经定义好的loss函数名称，也可以为自己写的loss函数 metrics=None, # sample_weight_mode=None, #如果你需要按时间步为样本赋权（2D权矩阵），将该值设为“temporal”。默认为“None”，代表按样
TensorFlow2损失函数大全
bigcindy的博客
07-04 4679
本文汇总了TensorFlow2中的所有损失函数： 1. L1范数损失 计算预测值与标签值之间的绝对误差的平均值： tf.keras.losses.MAE(y_true, y_pred) 参数： y_true 标签值 y_pred 预测值 返回值： 绝对误差的平均值。 别名： tf.keras.losses.mae, tf.keras.losses.mean_absolute_error, tf.keras.metrics.MAE, tf.keras.metrics
TensorFlow2.0损失函数基本原理、调用及自定义
weixin_67463124的博客
03-31 1956
TensorFlow2.0损失函数的原理、调用及自定义
tensorflow2.0基础（7）——损失函数，优化器
青鸠的博客
07-31 2462
损失函数，优化器，评估函数及回调函数
tensorflow2.0损失函数总结和损失函数自定义
my_name_is_learn的博客
06-16 1713
一文吃掉tensorflow2.0损失函数和损失函数的自定义
def mcp_loss(f_new): """ 计算单调性约束损失函数在所有样本和时刻上的平均值 """ batch_size = 64 num_timesteps = 6 num_features = 15 delta_p = tf.random.uniform(shape=(batch_size, num_timesteps, num_features), minval=0, maxval=1) p = inputs[:, :, -15:] p_new = p + delta_p newinputs = np.concatenate([train_ds[:, :, 0], p_new], axis=-1) f = ssmodel.predict(train_ds) f_new = ssmodel.predict(newinputs) # 预测 f_new delta_f = f - f_new relu = tf.nn.relu(delta_f) return tf.reduce_mean(tf.square(relu)) def combined_loss(y_true, y_pred): """ 组合MSE损失函数和单调性约束损失函数的新损失函数 """ def loss(y_true,y_pred): return alpha* mean_squared_error(y_true, y_pred) + (1-alpha) * mcp_loss() return loss将这段代码修改为keras的自定义损失函数的正确形式
最新发布
05-31
可以将上述代码修改为 Keras 的自定义损失函数的正确形式，如下所示： ```python import tensorflow as tf from tensorflow.keras.losses import mean_squared_error def mcp_loss(y_true, y_pred): """ 计算单调性约束损失函数在所有样本和时刻上的平均值 """ delta_p = tf.random.uniform(shape=(batch_size, num_timesteps, num_features), minval=0, maxval=1) p = y_true[:, :, -15:] p_new = p + delta_p newinputs = tf.concat([y_true[:, :, 0], p_new], axis=-1) f = ssmodel.predict(y_true) f_new = ssmodel.predict(newinputs) # 预测 f_new delta_f = f - f_new relu = tf.nn.relu(delta_f) return tf.reduce_mean(tf.square(relu)) def combined_loss(y_true, y_pred): """ 组合MSE损失函数和单调性约束损失函数的新损失函数 """ alpha = 0.5 # 可以根据需要进行调整 mse_loss = mean_squared_error(y_true, y_pred) mcp_loss_val = mcp_loss(y_true, y_pred) return alpha * mse_loss + (1 - alpha) * mcp_loss_val ``` 在上述代码中，`mcp_loss` 函数和 `combined_loss` 函数都采用了 Keras 的标准输入格式：`y_true` 和 `y_pred`，分别表示真实值和预测值。在 `mcp_loss` 函数中，我们使用 `tf.random.uniform` 函数生成一个与 `y_true` 相同形状的随机张量 `delta_p`，并使用它来计算新的输入 `newinputs` 和相应的预测值 `f_new`。然后，我们计算 `delta_f` 和 ReLU 函数，并将其平方并取平均值作为单调性约束损失函数的值。在 `combined_loss` 函数中，我们将 MSE 损失函数和单调性约束损失函数的值组合在一起，并返回它们的加权平均值作为最终的损失函数值。 请注意，上述代码可能需要根据您的具体情况进行适当修改，例如调整 `alpha` 或修改输入和输出的形状。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

爱编程的喵喵

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值