超分领域常见的损失函数

最新推荐文章于 2024-09-25 16:00:50 发布
最新推荐文章于 2024-09-25 16:00:50 发布
阅读量2.2k 收藏 10
点赞数 2
分类专栏： 深度学习 文章标签： python 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40107571/article/details/125882151
版权
本文介绍了超分辨率领域的三种常用损失函数：1) 重建损失，通常L1损失比L2损失能获得更清晰的图像；2) 对抗损失，通过GAN实现生成模型与判别模型的迭代优化；3) 感知损失，它在特征空间而非图像空间计算差异，与MSE损失类似。
摘要由CSDN通过智能技术生成

1 重建损失

直接比较像素之间的差异，在超分领域通常L1损失函数比L2损失函数更清晰、收敛更快。

class ReconstructionLoss(nn.Module):
    def __init__(self, type='l1'):
        super(ReconstructionLoss, self).__init__()
        if (type == 'l1'):
            self.loss = nn.L1Loss()
        elif (type == 'l2'):
            self.loss = nn.MSELoss()
        else:
            raise SystemExit('Error: no such type of ReconstructionLoss!')

    def forward(self, sr, hr):
        return self.loss(sr, hr)

2 对抗损失

GAN是2014年兴起的无监督学习网络。GAN主要是生成模型和判别模型进行迭代优化。优化目标是：

<

了解本专栏 订阅专栏 解锁全文 超级会员免费看
一壶浊酒..
关注
专栏目录
订阅专栏
【深度学习基础知识 - 01】L1和L2损失函数的区别
yanyuxiangtoday的博客
08-18 1万+
机器学习、深度学习任务中经常提到L1和L2损失的概念，在这里简单介绍一下它们的基础概念以及区别。 基础概念 L1损失函数又称为MAE(mean abs error)，即平均绝对误差，也就是预测值和真实值之间差值的绝对值。 L2损失函数又称为MSE(mean square error)，即平均平方误差，也就是预测值和真实值之间差值的平方。 相同点 因为计算的方式类似，只有一个平方的差异，因此使用的场合都很相近，通常用于回归任务中。 差异 L2没有L1鲁棒，直观来说，L2会将误差平方，如果误差大于1，
adcsr图像超分代码_深度解析 | 图神经网络用于图像超分领域，复原效果惊艳
weixin_30653091的博客
12-31 269
paper: https://arxiv.org/abs/2006.16673code: https://github.com/sczhou/IGNN(尚未开源)极市导读：该文可能是首次提出将图神经网络嵌入到图像超分领域中，其实它也是图像块自相似性的一种应用，之前笔者分享过类似的方法(采用卷积方式进行块相似性搜索)，而这篇论文则是采用图神经网络搜索块相似性。这种块相似性搜索技术与传统方法中的搜索比...
超分辨中常用的损失函数
骊山道童的博客
11-02 2932
Charbonnier Loss - 知乎：https://zhuanlan.zhihu.com/p/111572013 超分辨领域的loss： 1. L1损失 L1损失，也被称为最小绝对偏差（LAD），最小绝对误差（LAE）。 计算的是实际值与目标值之间绝对差值的总和。在有监督的图像超分辨率任务中，目标是使得生成的图像（SR）尽可能接近真实的高分辨率图像（HR），使用L1损失计算的则是SR和HR对应像素位置的值的误差。 使用L1损失的模型（有的模型使用了不止一种损失函数，此处罗列的为损失函数中包含L1损失
模糊神经网络代码_图像超分最新记录！南洋理工提出图神经网络嵌入新思路，复原效果惊艳...
weixin_39643336的博客
11-28 295
编辑：Happy首发：极市平台日期：2020-07-02paper: https://arxiv.org/abs/2006.16673code: https://github.com/sczhou/IGNN（尚未开源） 【Happy导语】该文可能是首次提出将图神经网络嵌入到图像超分领域中，其实它也是图像块自相似性的一种应用，之前笔者分享过类似的方法(采用卷积方式进行块相似性搜索)，而这篇论文则是...
基础知识备忘
最新发布
m0_66275389的博客
09-25 650
图像重建损失是指导模型生成与原始图像尽可能相似的核心工具。不同的损失函数适用于不同的图像重建任务，如像素级损失（MSE、MAE）、感知损失、对抗损失、SSIM 损失等，它们在自动编码器、VAE、GAN、图像超分辨率、图像去噪等任务中广泛应用。CFG（Classifier-Free Guidance）训练方法是一种用于条件生成任务的技术，通过结合有条件和无条件生成结果，模型能够更好地生成符合条件的样本，同时保持生成样本的多样性。
超分损失函数小结
bbbeoy的专栏
08-24 4304
原论文：Deep Learning for Image Super-resolution: A Survey 1.Pixel Loss：用来度量生成图片和目标图片的像素级的差异 1.1 L1 loss 1.2 L2 loss 1.3 Charbonnier loss：L1 Loss的变体，最后参数是一个很小常量（e.g., 1e − 3），为了使数值稳定 像素损失是最常见的损失，通常L2损失能够对大的损失进行惩罚，但是在小的损失上无能为力，效果不如L1，像素损失实际上并没...
Pytorch图像超分任务中常见的损失函数
qq_38644840的博客
10-15 5105
损失函数L1 lossL2 loss L1 loss L1损失就是直接计算target与网络输出之间的距离，对于超分而言计算公式如下： l=1N∑nN∣outputn−targetn∣ l = \frac{1}{N}\sum_{n}^{N}\left | output_{n}-target_{n} \right | l=N1​n∑N​∣outputn​−targetn​∣ pytorch中继承了这个简单的损失函数具体代码如下： import torch import torch.nn as nn #创建评
【图像超分辨率重建】——“SISR 中的Edge-Based 损失函数”论文精读
Sunny_Coder的博客
11-03 3256
【图像超分辨率重建】——“SISR 中的Edge-Based 损失函数”论文精度
SROBB: 使用使用目标感知损失函数实现图像超分辨率重建
breezero的博客
09-08 6885
SROBB： Targeted Perceptual Loss for Single Image Super-Resolution 论文地址：https://arxiv.org/pdf/1908.07222.pdf 一、摘要： 最近的研究得益于感知损失，极大地提高了超分辨率任务的性能，即高分辨率图像从低分辨率图像中分辨出来。虽然这些目标函数产生了接近于光真实感的结果，但是它们的能力是有限的，...
超分辨中的损失函数
crazysmoker的博客
11-21 1052
SSIM（结构相似性）除了考虑亮度信息之外还加入了对比度和结构分数；通过三个评价标准共同来衡量两幅图的差异。SSIM将图像分为多个像素块，并最终以三个分数的组合方式来表达，其中如何表达可以根据实际图像观感优先级来进行调整。本文参考https://zhuanlan.zhihu.com/p/541385224。其中MSE（均方误差）是直接考虑两幅图之间像素值的区别。而PSNR（峰值信噪比）其实是MSE的一种对数形式。主流损失为三种：MSE PSNR SSIM。
神经网络模型在图像超分领域的应用研究.pdf
09-25
SRGAN的损失函数包括均方误差（MSE）和感知损失，后者通过预训练的卷积网络提取特征，使得生成的高分辨率图像更符合人类视觉系统。 实验部分，作者对比了这三种模型在Set4、Set14和Urban100数据集上的性能，通过...
图像超分SRCNN/FSRCNN
07-05
SRCNN的创新之处在于它是第一个将深度学习技术引入到超分领域的模型，展示了卷积神经网络在处理此类任务上的强大能力。 **FSRCNN** 则是SRCNN的优化版本，由Zhang等人于2016年提出。为了提高速度和效率，FSRCNN引入...
[译]Perceptual Losses for Real-Time Style Transfer and Super-Resolution基于感知损失函数的实时风格转换和超分辨率重建
那个人会飞
06-21 2678
[译] Perceptual Losses forReal-Time Style Transfer and Super-Resolution（StanfordUniversity）题目：《基于感知损失函数的实时风格转换和超分辨率重建》文章地址：《Perceptual Losses for Real-Time Style Transfer and Super-Resolution》 arXiv.16...
图像的超分辨率重建SRGAN与ESRGAN
qxqsunshine的博客
12-23 1万+
SRGAN 传统的图像超分辨率重建方法一般都是放大较小的倍数，当放大倍数在4倍以上时就会出现过度平滑的现象，使得图像出现一些非真实感。SRGAN借助于GAN的网络架构生成图像中的细节。 训练网络使用均方误差（MSE）能够获得较高的峰值信噪比（PSNR），但是恢复出来的图像会丢失图像的高频细节信息，在视觉上有不好的体验感。SRGAN利用感知损失（perceptual loss）和对抗损失（adv...
图像恢复常用的损失函数
weixin_44734371的博客
05-22 2591
结构相似性损失（Structural Similarity Loss，SSIM Loss）：结构相似性损失基于结构相似性指数（SSIM）来衡量恢复图像与原始图像之间的结构相似性。感知损失（Perceptual Loss）：感知损失通过使用预训练的深度卷积神经网络（如 VGG）来比较恢复图像与原始图像之间的特征表示差异。L1损失函数，也称为绝对值损失函数，是一种常见的损失函数，用于衡量预测值与真实值之间的差异。在图像恢复中，L1损失函数可以用于衡量恢复图像与原始图像之间的像素级别差异。
2021-11-10-超分辨率中的损失函数
qq_40723205的博客
11-10 4096
1.pixel loss 与 L1 损失相比，L2 损失惩罚较大的错误，但对小错误的容忍度更高。 在实践中，L1 损失表现出比 L2 损失 [30]、[33]、[121] 更好的收敛性。由于 PSNR 的定义（第 2.3.1 节）与像素差异高度相关，并且最小化像素损失直接最大化 PSNR，因此像素损失已成为该领域使用最广泛的损失函数。 然而，由于像素损失实际上并没有考虑图像质量（例如，感知质量[31]、纹理[10]），它通常缺乏高频细节，产生过度平滑的纹理[27]，[31]、[62]、[74]。 .
闲话模型压缩之网络剪枝（Network Pruning）篇
热门推荐
世事难料，保持低调
09-15 4万+
背景 今天，深度学习已成为机器学习中最主流的分支之一。它的广泛应用不计其数，无需多言。但众所周知深度神经网络（DNN）有个很大的缺点就是计算量太大。这很大程度上阻碍了基于深度学习方法的产品化，尤其是在一些边缘设备上。因为边缘设备大多不是为计算密集任务设计的，如果简单部署上去则功耗、时延等都会成为问题。即使是在服务端，更多的计算也会直接导致成本的增加。因此，人们正在从各个角度试图克服这个问题，如这几...
Perceptual Loss（感知损失）&Perceptual Losses for Real-Time Style Transferand Super-Resolution论文解读
qq_40962125的博客
01-10 4823
感知损失通过一个固定的网络（VGG16,VGG19..），分别用prediction 和 groundtruth作为VGG16输入， 得到对应的输出特征，pre-vgg，gt-vgg。注：往往pre-loss（感知损失）为正则项，需要配合其他损失函数进行指导，可以通过自定参数调节感知损失的惩罚（调节）力度。在提取特征时，通常不会只使用一层的特征，而是使用网络中浅层，中层，深层特征，进行组合。2.送入prediction和ground truth分别通过VGG前向，并得到pre-vgg，gt-vgg。
二元函数图像生成器_机器学习小知识: 这些计算机视觉中的损失函数你掌握了多少...
weixin_39597318的博客
12-08 865
过去的十多年中，深度学习领域的创新，海量数据的便捷可用性和 GPU 单元的可访问性，已经将计算机视觉领域推到了镁光灯下。它甚至已经开始在某些任务中实现了傲人的性能，比如人脸识别和验证(实际上，用于身份确认的自动人脸验证如今已变得越来越普遍了)。近年来，在计算机视觉领域中，在网络架构、激活函数、损失函数等方面都看到了很多创新性工作。其中，损失函数在模型的性能中扮演着一个至关重要的角色。选择...
用GAN网络实现图像超分
05-13
图像超分是指将低分辨率的图像通过计算机算法提升到高分辨率的过程，这在计算机视觉领域非常重要。GAN（Generative Adversarial Networks）是一种深度学习模型，在图像处理中广泛应用。下面简要介绍一下如何用GAN网络实现图像超分。 GAN网络由生成器（Generator）和判别器（Discriminator）两个部分组成。在训练过程中，生成器通过生成高分辨率图像来欺骗判别器，而判别器则试图区分真实图像和生成图像。通过不断迭代训练，生成器可以生成越来越真实的图像。 下面是用GAN网络实现图像超分的步骤： 1. 准备数据集，包括低分辨率图像和高分辨率图像。低分辨率图像是输入，高分辨率图像是标签。 2. 构建生成器网络，将低分辨率图像作为输入，输出高分辨率图像。生成器通常由卷积层、反卷积层、残差块等组成。 3. 构建判别器网络，将生成器生成的图像和真实图像作为输入，输出一个二元分类结果。判别器通常由卷积层、全连接层等组成。 4. 定义损失函数，用于衡量生成器生成的图像和真实图像之间的差异。损失函数通常包括像素差损失（Pixel Loss）、感知损失（Perceptual Loss）和对抗损失（Adversarial Loss）等。 5. 进行训练，通过不断迭代优化生成器和判别器的参数，使生成器生成的图像越来越接近真实图像。 6. 在训练过程中，可以使用一些技巧来提高模型的性能，比如使用残差块、增加噪声等。 7. 最后，用训练好的模型来对新的低分辨率图像进行超分处理，得到高分辨率图像。 以上是用GAN网络实现图像超分的基本步骤，具体实现中还需根据具体情况进行调整和优化。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一壶浊酒..

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值