robust Charbonnier loss function

已于 2022-11-18 10:18:38 修改
阅读量711 收藏 2
点赞数
文章标签： 人工智能
于 2022-11-18 10:14:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_64894570/article/details/127916718
版权

这篇论文中有使用  Charbonnier loss

与L1相比，增加了一个正则项ε。用Charbonnier Loss来近似L1损失来提高模型的性能,接近零点的值的梯度由于ε的存在，梯度不会太小，避免梯度消失。

pytorch中Charbonnier loss的使用

 

在train.py中调用

就可以对网络进行训练了 

真憨假憨xzh
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【损失函数：2】Charbonnier Loss、SSIM Loss（附Pytorch实现）
NorthSmile的博客
09-27 1万+
下面介绍各个函数时，涉及到一下2变量，其含义如下：假设网络输入为x，输出为y‾y​=f(x)，x的真实标签为y，其中：、、上述定义中的N通常表示一个批次中所包含的样本数量，因为在网络训练时我们通常是逐批次送入网络训练，每个批次计算一次损失，然后进行参数更新。
Charbonnier Loss
热门推荐
简单记录生活、学习
10-20 2万+
最近在做一些图像生成的相关任务，看到了有些论文用Charbonnier Loss来近似损失来提高模型的性能，这里就对论文中提到的Charbonnier Loss做一个梳理。 Charbonnier Loss的表达式如下所示： 首先参考以下这篇超分辨领域的论文《Fast and Accurate Image Super-Resolution with Deep Laplacian Pyramid Networks》： http://xxx.itp.ac.cn/pdf/1710.01992​x..
深度学习——常见损失函数Loss：L1 ，L2 ，MSE ，Binary Cross ，Categorical Cross ，Charbonnier ，Weighted TV ，PSNR
最新发布
qq_40280673的博客
11-08 9648
在深度学习中，损失函数是一个核心组件，它度量模型的预测结果与真实值之间的差异。通过最小化损失函数的值，模型能够在训练过程中逐渐改善其性能。损失函数为神经网络提供了一个明确的优化目标，是连接数据和模型性能的重要桥梁。
SR-LapSRN笔记
AcceptedLin的博客
11-27 1370
                              SR-LapSRN笔记 论文中作者先总结了之前的方法存在有三点问题。一是有的方法在输入图像进网络前，需要使用预先定义好的上采样操作(例如bicubic)来获得目标的空间尺寸，这样的操作增加了额外的计算开销，同时也会导致可见的重建伪影。而有的方法使用了亚像素卷积层或者反卷积层这样的操作来替换预先定义好的上采样操作，这些方法的网络结构又相对...
SR中的常见的损失函数
zyw2002的博客
08-14 667
广泛的MOS测试(第2.3.3节)表明，尽管使用对抗损失和内容损失训练的SR模型比使用像素损失训练的SR模型获得更低的PSNR，但它们在感知质量[8]，[25]上有显著的提高。实际上，该鉴别器提取了真实HR图像中一些难以学习的潜在模式，并推动生成的HR图像符合，从而有助于生成更真实的图像。与上述研究关注对抗损失的具体形式不同，Park等人[133]认为像素级鉴别器导致产生无意义的高频噪声，并附加另一个特征级鉴别器对经过预处理的CNN提取的高级表示进行操作，该CNN能够捕获真实HR图像中更有意义的属性。
A Robust Loss for Point Cloud Registration.pdf
11-21
A Robust Loss for Point Cloud Registration
robustpca学习
09-05
鲁棒性主成分分析的基础知识，可以用来降秩去噪，将图像分成低秩矩阵和稀疏矩阵（大多是噪声）
robust optimizationbertsimas2017.pdf
08-04
那么，费马大定理会不会也是不可证明的呢？人们不得而知，但这种怀疑论足够扑灭绝大多数人的热情。 到了离费马过世差不多三百年的时候，终于又出现了一个振奋人心的角色，但是它却不是一个人，而是，计算机。...
Robust and Optimal Control.pdf
11-19
Robust and Optimal Control.pdfRobust and Optimal Control.pdfRobust and Optimal Control.pdf
matlab_robust_matlab_
10-02
Gnom=[tf(12[0.2 1])tf(-0.05[0.11]); tf(0.1[0.3 1]) tf(5[0.7 -1])];W1=makeweight(0.12010);...title('Robust stability');xlabel('Frequency (rad/s)');ylabel('mu');figure;T=feedback(G*Keye(2)); step(T);
《Deep Learning for Image Super-resolution: A Survey》之 Loss Functions
qq_34706871的博客
11-22 1254
本文节选自论文：Deep Learning for Image Super-resolution: A Survey 在图像超分中，用损失函数来衡量重建图像与真实图像之间的差异，并以此来引导模型的优化。 关于超分中常用的损失函数（Loss Functions）的总结： 1、Pixel Loss（基于像素级的损失） 包含loss（平均绝对值误差）、loss（均方误差） 其中，为重...
【光流估计】无监督学习的LOSS
TSthinker的博客
10-07 7397
无监督光流估计中损失函数的相关内容与个人理解
最强损失函数分析：一般自适应鲁棒损失函数
limingmin2020的博客
04-08 1693
本文提出广义损失函数可以将鲁棒性参数作为一个训练中的自由变量，进而可以直接使用优化器进行优化，而无需人工调参，并进行了多个具体实验。该论文对广义损失函数的讲解细致，一步步的推导十分精妙，非常推荐阅读，希望各位开发者也能体会到其巧妙地数学美感。
Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution
玥晓珖的博客
07-27 6139
转载请附上原文链接，谢谢 0 abstract： 最近卷积神经网络经常被用到对单图像超分辨率的高质量重建中。在这篇论文中，我们提出了Laplacian金字塔超分辨率网络（LapSRN）来逐步重构高分辨率图像的子频带残差（sub-band residuals）。在每个金字塔的层，我们将粗分辨率特征图作为输入，预测高频残差（high-frequency residuals），并使用反卷积（tran...
图像超分辨LapSRN：Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution论文笔记
Cyiano的博客
11-13 5572
图像超分辨LapSRN：Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution论文笔记简介 作者使用的超分辨结构，是拉普拉斯金字塔，每一级的金字塔都以粗糙分辨率的特征图为输入，用解卷积来升采样得到更精细的特征图。另外，网络的训练使用了robust Charbonnier loss function，这个损失函数可以
LapSRN的Loss: Carbonnier Loss
weixin_38203533的博客
06-21 5423
本文认为相同的LR补丁可能有多种相应的HR补丁,而L2范数并不能捕捉潜在的综合HR补丁,L2范数重建出的图像往往过平滑。本文提出了一种抗噪性强的损失函数:让x输入LR形象和θ的设置网络参数进行优化。目标是学习一个映射函数用于生成高分辨率图像ˆy = f(x;θ)贴近grounth truth图像y。x表示LR图像，y表示HR图像，r表示残差，用rs表示s级残差图像，s表示对应的level，也就是s...
pytorch中loss总结
Fan9_的博客
04-02 4269
Pytorch中分类loss总结 近期在学习pytorch时，发现分类算法在输出时不写激活层如softmax激活/sigmoid激活。并且pytorch文档中除了softmax激活/sigmoid激活外，还有logsoftmax/logsigmoid。以及torch的loss函数会把激活和损失计算都整合到一起计算，给的解释是为了获得更好的数值稳定性。为了弄清这一切，进行了以下探索。并将自己涉及的...
Fast and Accurate Image Super-Resolution with Deep Laplacian Pyramid Networks
Stay hungry,stay young
11-28 1039
发表自TPAMI2019。会议的版本发表在CVPR2017(Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution)。 主要的工作：在多金字塔层渐进地重建高分辨率图像的子带残差，直接从低分辨率输入特征提取特征，使用了Charbonnier损失函数（可以更好地处理异常值），使用递归层去共享金字塔层内和层间的参数。...
Charbonnier loss
05-22
Charbonnier loss, also known as the L1 smooth loss or the pseudo-Huber loss, is a loss function typically used in computer vision tasks such as image restoration and optical flow estimation. It is a variant of the L1 loss that is more robust to outliers and noise in the data. The formula for Charbonnier loss is: L = sqrt((x-y)^2 + epsilon^2) where x and y are the predicted and ground truth values, respectively, and epsilon is a small constant to avoid division by zero. The square root term encourages the predicted values to be close to the ground truth values, while the epsilon term ensures numerical stability. Charbonnier loss is often used in conjunction with other loss functions such as the perceptual loss or the adversarial loss to improve the performance of neural networks.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值