深度学习相关知识汇总

置顶 已于 2024-03-07 18:18:33 修改
阅读量1.7k 收藏 8
点赞数
分类专栏： 神经网络 文章标签： python 图像处理 人工智能 深度学习 机器学习
于 2021-10-15 12:29:02 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38640670/article/details/120781032
版权

以下为个人汇总，通过金山文档分享出来，望大家批评指正：

模 块
类型链接说明
评价指标https://kdocs.cn/l/ce2RCrEVhnIc
Backbonehttps://kdocs.cn/l/cdktr98UB730
Losshttps://kdocs.cn/l/ckfkrEASUnH6
Trackinghttps://kdocs.cn/l/cbMoNKtkhTaG
组件https://kdocs.cn/l/cophnsLwx03r
任 务
类型链接说明
分类https://kdocs.cn/l/cimz26fC0WXH
识别https://kdocs.cn/l/ccEjSGoOpaXN
检测https://kdocs.cn/l/cr6ONiIjuaqL
跟踪https://kdocs.cn/l/cabPklPHENLg
分割https://kdocs.cn/l/cbBybagUJUVC
超分https://kdocs.cn/l/cdJydokALdJv
Du_JuneLi
关注
  • 0
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习数学知识总结
05-08
为了彻底理解深度学习，我们到底需要掌握哪些数学知识呢？经常看到会列出一系列数学科目在此对数学知识做了总结
图像恢复常用的损失函数
weixin_44734371的博客
05-22 1971
结构相似性损失（Structural Similarity Loss，SSIM Loss）：结构相似性损失基于结构相似性指数（SSIM）来衡量恢复图像与原始图像之间的结构相似性。感知损失（Perceptual Loss）：感知损失通过使用预训练的深度卷积神经网络（如 VGG）来比较恢复图像与原始图像之间的特征表示差异。L1损失函数，也称为绝对值损失函数，是一种常见的损失函数，用于衡量预测值与真实值之间的差异。在图像恢复中，L1损失函数可以用于衡量恢复图像与原始图像之间的像素级别差异。
多尺度结构相似性L1损失的计算过程
qq_44698655的博客
11-08 577
因为人类在同一时间只能关注到局部的亮度、对比度，结构等相似度信息，因此实际代码中不计算全局的均值和方差，只计算局部窗口内的均值和方差，最后将所有局部窗口得到的量化值相加求平均得到最终的SSIM值。共有五行，表示不同尺度下的高斯核。可以看到，不同尺度的高斯核具有不同的聚焦视野，这是模拟人类视在不同观看条件下的视觉辨别能力。多尺度SSIM是在原始SSIM基础上，计算多个尺度上的SSIM值，最后相乘得到最终的多尺度SSIM值。同理，SSIM的计算也是基于以上三个方面，并通过量化度量生成一个介于-1到1之间的值。
损失函数-SSIM（structure similarity）结构相似性
xingghaoyuxitong的博客
02-26 3917
SSIM是一种衡量两幅图片相似度的指标。 出处来自于2004年的一篇TIP， 标题为：Image Quality Assessment: From Error Visibility to Structural Similarity 地址为：https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=1284395 理论 应用方法： 实际应用中，SSIM(x，y)通过作以（x,y）为中心的窗口，获得局部（x,y）点的局部均值，求取Ux矩阵
超分辨中的损失函数
crazysmoker的博客
11-21 862
SSIM（结构相似性）除了考虑亮度信息之外还加入了对比度和结构分数；通过三个评价标准共同来衡量两幅图的差异。SSIM将图像分为多个像素块，并最终以三个分数的组合方式来表达，其中如何表达可以根据实际图像观感优先级来进行调整。本文参考https://zhuanlan.zhihu.com/p/541385224。其中MSE（均方误差）是直接考虑两幅图之间像素值的区别。而PSNR（峰值信噪比）其实是MSE的一种对数形式。主流损失为三种：MSE PSNR SSIM。
计算psnr函数_一些损失函数的奇淫怪想
weixin_30990711的博客
01-14 1441
No.1： MSE（Mean Squared Error）公式：以单个样本举例：假设a=σ(z), where z=wx+b利用SGD算法优化损失函数，通过梯度下降法改变参数从而最小化损失函数：链式原则对两个参数权重和偏置进行求偏导：MSE作为像素级的损失函数，只考虑了像素之前的差距，而并没有考虑整张图像的特征分布，比如在图像超分辨率任务中，可能得到很高的PSNR值，但是并不符合我们人的视觉高观，...
基于深度学习的知识追踪研究进展论文总结
05-26
基于深度学习的知识追踪研究进展论文总结
深度学习在知识图谱构建中的应用
01-27
本文来自csdn，本文主要讲解了基于深度学习的关系抽取技术及其在神马知识图谱数据构建中的探索和实践，以及业务落地过程中遇到的一些挑战，希望对您的学习有所帮助。导读：在智能化时代的今天，搜索引擎不仅能理解...
深度学习--数学知识汇总概述.svg
08-04
深度学习数学知识汇总（概述）
损失函数SSIM (structural similarity index) 的PyTorch实现
热门推荐
hyk_1996的博客
02-21 4万+
SSIM介绍 结构相似性指数（structural similarity index，SSIM）, 出自参考文献[1]，用于度量两幅图像间的结构相似性。和被广泛采用的L2 loss不同，SSIM和人类的视觉系统（HVS）类似，对局部结构变化的感知敏感。 SSIM分为三个部分：照明度、对比度、结构，分别如下公式所示： 将上面三个式子汇总到一起就是SSIM： 其中，上式各符号分...
Simple-SSIM-Loss:使用PyTorch简单而天真地实现结构相似性损失
03-07
简单的SSIM 实现SSIM丢失功能。 实现在Pix2PixLoss.py 。 一个测试示例在test.py
深度学习——常见损失函数Loss：L1 ，L2 ，MSE ，Binary Cross ，Categorical Cross ，Charbonnier ，Weighted TV ，PSNR
qq_40280673的博客
11-08 7169
在深度学习中，损失函数是一个核心组件，它度量模型的预测结果与真实值之间的差异。通过最小化损失函数的值，模型能够在训练过程中逐渐改善其性能。损失函数为神经网络提供了一个明确的优化目标，是连接数据和模型性能的重要桥梁。
【损失函数：2】Charbonnier Loss、SSIM Loss（附Pytorch实现）
NorthSmile的博客
09-27 1万+
下面介绍各个函数时，涉及到一下2变量，其含义如下：假设网络输入为x，输出为y‾y​=f(x)，x的真实标签为y，其中：、、上述定义中的N通常表示一个批次中所包含的样本数量，因为在网络训练时我们通常是逐批次送入网络训练，每个批次计算一次损失，然后进行参数更新。
Pytorch深度学习笔记（02）--损失函数、交叉熵、过拟合与欠拟合
weixin_45788643的博客
04-19 2188
一、损失函数 损失函数（loss function）是用来估量你模型的预测值与真实值的差异程度，损失函数越小，模型的鲁棒性就越好。 常用损失函数小结 平方损失 0-1损失 Log损失 Hinge损失 指数损失 感知损失 二、交叉熵损失函数详解 一般使用交叉熵作为损失函数时，在模型的输出层总会接一个softmax函数。 交叉熵 主要用于度量两个概率分布间的差异性，要理解交叉熵，需要先了解下面几个概念。 信息量 信息量的大小与信息发生的概率成反比。概率越大，信息量越小。概率越小，信息量
常用损失函数（L1、L2、SSIM和MS-SSIM）对比简介
紫芝的博客
07-20 7934
https://research.nvidia.com/publication/loss-functions-image-restoration-neural-networks 常用损失函数（L1、L2、SSIM和MS-SSIM）对比简介1 介绍2 损失函数3 效果对比4 总结参考资料 1 介绍 本文的介绍主要是参考论文：Loss Functions for Image Restoration with Neural Networks，而作者是从这三个实验（image super-resolution, J
损失函数-MS-SSIM(multiscale structure similarity)跨尺度结构相似性
xingghaoyuxitong的博客
02-26 5023
参考资料：https://blog.csdn.net/weixin_41923961/article/details/84795832 MS-SSIM的考虑了不同尺度下结构相似程度 本文在SSIM的基础上继续研究，通过不同大小的滤波算子来扩大感受野，模拟尺度缩小的情况。 另外，先求取一次SSIM,再考虑其余四次的contrast 和 structure map 基于tensorflow的代码： #%% import tensorflow as tf import numpy as np..
【OpenCV-Python】：图像PSNR、SSIM、MSE计算
王乐予的博客
07-03 2万+
评价一幅图像质量的好坏有多种方式，目前最常用的是PSNR、SSIM、MSE。接下来我们具体讲解。 1. MSE（Mean Squared Error）均方误差 MSE是预测值f(x)与目标值y之间差值平方和的均值，公式表示为： MSE=∑i=1n(f(x)−y)2nMSE=\frac{\sum_{i=1}^{n}(f(x)-y)^{2}}{n}MSE=n∑i=1n​(f(x)−y)2​ 对于图像来说，两个m×n单色图像I和K，如果一个为另一个的噪声近似，那么它们的均方误差定义为： MSE=1mn∑i=0m−
模型损失函数变化曲线图_Day82:对比损失(Contrastive Loss )函数及梯度的计算
weixin_39731682的博客
11-21 3162
Contrastive loss 最初源于 Yann LeCun “Dimensionality Reduction by Learning an Invariant Mapping” CVPR 2006。该损失函数主要是用于降维中，即本来相似的样本，在经过降维(特征提取)后，在特征空间中，两个样本仍旧相似；而原本不相似的样本，在经过降维后，在特征空间中，两个样本仍旧不相似。同样，该损失函数也可以...
python 计算ssim
qq_46401672的博客
06-01 947
python 计算ssim
分布式知识 深度学习
最新发布
01-23
深度学习是一种机器学习方法，它模仿人脑神经网络的结构和功能，通过多层神经网络进行学习和训练，以解决复杂的模式识别和预测问题。而分布式深度学习是指将深度学习模型的训练任务分布到多个计算节点上进行并行计算，以加快训练速度和提高模型性能。 在分布式深度学习中，通常会使用高性能硬件（如图形处理单元和张量处理器）来加速模型训练。同时，采用分布式训练的方法，将整个训练任务分解为多个子任务，在多个计算节点上并行进行训练。这样可以大幅缩短深度神经网络的训练时间。 分布式深度学习中的并行化训练任务可以分为数据并行和模型并行两种方式。数据并行是将训练数据分成多个部分，每个计算节点只负责处理其中一部分数据进行训练，然后将结果进行汇总。模型并行是将模型分成多个部分，每个计算节点只负责处理其中一部分模型进行训练，然后将结果进行汇总。在分布式训练中，节点间的通信成为关键瓶颈，因为不同的计算节点之间需要频繁地进行通信以交换大量的数据。 总结来说，分布式深度学习通过将深度学习模型的训练任务分布到多个计算节点上进行并行计算，以加快训练速度和提高模型性能。同时，采用高性能硬件和并行化训练任务的方式，可以进一步提升分布式深度学习的效果。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值