深度学习中的不确定性详解

最新推荐文章于 2024-10-03 03:20:30 发布
最新推荐文章于 2024-10-03 03:20:30 发布
阅读量2.8k 收藏 12
点赞数 2
分类专栏： 不确定性 深度学习 文章标签： 深度学习 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DENGSHUCHAO152/article/details/122293026
版权

参考来源：
https://www.zhihu.com/collection/767533853
https://zhuanlan.zhihu.com/p/56986840
单独的不确定性：
在这里插入图片描述在这里插入图片描述

两种不确定性的结合：
在这里插入图片描述
这里为什么要除以偶然不确定性，是因为图片本身存在偶然不确定性，可以通过除以消除其度量两种不确定性，详解、公式推导以及示例请参考：
https://zhuanlan.zhihu.com/p/56986840
在这里插入图片描述

深度学习知识点全面总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 32万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
PyTorch深度学习实战（1）——神经网络与模型训练过程详解
热门推荐
盼小辉丶的博客
05-28 8万+
在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。
深度学习中的不确定性量化:技术、应用和挑战综述（一）
liangdaojun的博客
05-06 8506
不确定性量化(UQ)在减少优化和决策过程中的不确定性方面起着关键作用，应用于解决各种现实世界的科学和工程应用。贝叶斯近似和集成学习技术是文献中使用最广泛的两种UQ方法。在这方面，研究人员提出了不同的UQ方法，并测试了它们在各种应用中的性能，如计算机视觉(如自动驾驶汽车和物体检测)、图像处理(如图像恢复)、医学图像分析(如医学图像分类和分割)、自然语言处理(如文本分类、社交媒体文本和惯犯风险评分)、生物信息学等。
深度学习中的不确定性
chumingqian的博客
11-22 661
我们设想一个非常简单的回归问题，training set是一个sin函数加上一个noise（下边的简单实验就是用的这个数据集），我们训练的目的是去尽可能的拟合这个带噪声的sin，从而希望让我们的模型去接近真实的数据分布sin。蒙特卡洛方法的本质就是通过有限次的sample，来对我们的这个后验分布 P(W|D)P(W|D) 产生一个估计，然后我们就可以用获得的这个近似分布来当作 P(W|D)P(W|D) 用，而有了这个后验分布，我们就可以知道 DD 到底在不在我们已经学习的分布中，从而获得认知不确定性。
深度学习中的两种不确定性：偶然不确定性和认知不确定性（Aleatoric Uncertainty & Epistemic Uncertainty）
Hali_Botebie的博客
05-08 7276
转载：https://zhuanlan.zhihu.com/p/56986840注: 本文中，概念、公式与实验均基于 Alex Kendall & Yarin Gal的论文:https://arxiv.org/pdf/1703.04977.pdf。
深度学习的不确定性（Uncertainty/confidence score）与校准(Calibration)
xys430381_1的专栏
08-09 4万+
模型校准 Calibration: 一个工业价值极大，学术界却鲜有研究的问题！（原论文：On Calibration of Modern Neural Networks，论文中有一些基本的校准方法，包括温度缩放Temperature Scaling） 在大多情况下，我们只关心类别的预测 有多准，根本不 care 置信度是怎样的。然而，在一些实际应用场景下，置信度的度量也同样重要。 例如 对于自动驾驶中的目标识别任务，车辆的前方出现了一个人，神经网络会将其识别成塑料袋，此时输出的置信度为50%（低于阈值）
深度学习的不确定性估计和鲁棒性
12-09
深度学习模型在分布外预测方面表现不佳: 它们往往做出高置信预测，这在现实世界的应用中是有问题的，比如医疗保健、自动驾驶汽车和自然语言系统，或者在训练数据和模型预测所依据的数据之间存在差异的情况下，这些应用存在相当大的安全隐患。
贝叶斯神经网络详解：深度学习中的不确定性量化指南
对于那些已经熟悉深度学习但希望扩展到不确定性建模领域的读者，这篇教程提供了实用的工具和策略，帮助他们理解并应对深度学习黑盒中的挑战。通过阅读本文，用户将掌握如何在实际项目中应用贝叶斯神经网络，以提高...
Tensorflow深度学习框架中文详解，一个开源的基于python的机器学习框架
03-17
### Tensorflow深度学习框架中文详解 #### 一、Tensorflow简介 TensorFlow是一个由Google Brain团队研发的强大机器学习平台，自发布以来迅速成为业界最受欢迎的深度学习框架之一。作为一个开源项目，TensorFlow...
强化学习Reinforcement Learning研究中的不确定性建模探究
最新发布
AI天才研究院
10-03 971
强化学习Reinforcement Learning研究中的不确定性建模探究 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍
《深度学习不确定性量化: 技术、应用与挑战》
11-16
在优化和决策过程中，不确定性量化(UQ)在减少不确定性方面起着至关重要的作用。它可以用于解决科学和工程中的各种实际应用。
【计算机科学】【2016.09】深度学习的不确定性
weixin_42825609的博客
12-25 1158
本文为英国剑桥大学（作者：YarinGal）的博士论文，共174页。 深度学习已经吸引了信息工程各个领域的研究人员，如人工智能、计算机视觉和语言处理等，也吸引了诸如物理、生物学和生产制造等传统科学的极大关注。神经网络、卷积神经网络等图像处理工具、递归神经网络等序列处理模型、以及dropout等正则化工具已经被广泛使用。然而，诸如物理、生物学和生产制造等领域中，模型不确定性的表示是至关重要的。随着...
深度学习中的不确定性综述
chumingqian的博客
10-23 1887
总结——当前的不确定性量化方法在现实世界中的应用效果如何？尽管过去几年神经网络在不确定性量化方面取得了许多进展，但它们在实际任务和安全关键应用中的采用仍然有限。造成这种情况的原因有很多，下面一一讨论：缺少对现实世界问题现有方法的验证：尽管 DNN 已成为解决众多计算机视觉和医学图像处理任务的事实标准，大多数现有模型还是无法适当量化其推论所固有的不确定性，特别是在实际应用中。
DeepChem教程25:深度学习的不确定性
lishaoan77的专栏
03-04 1043
对于深度学习模型的常见批评是它们像黑盒子一样工作。一个模型产生输出，但并没有足够的内容来解释它们的正确性。模型的预测的结果是否可靠？是否有一些预测结果比另一些结果更可靠？如果对于有些数值模型的预测结果为5.372，你会认为这个值是5.371和5.373的中间值？还是2 和8?在某些领域这情况可能足够好，但要科学领域并不足够好。对于模型预测的值我们需要也想要评估这个值的不确定性以致我们知道我们能基于它做什么结论。 DeepChem让评估预测输出的不确定性评估很容易。（起码对于它所支持的模型是这样—不是所有的
【人工智能的数学基础】深度学习中的不确定性(Uncertainty)
AI天才研究院
06-26 5542
偶然不确定性捕获了观测中固有的噪声，比如在物体的边界或远离相机的物体上的偶然不确定性会增加。认知不确定性是由对数据认知的缺乏导致的，比如在语义和视觉上更具挑战性的像素的认知不确定性较大。通过计算这些近似后验结果的方差(回归问题)或熵(分类问题)，可以给出认知不确定性的估计值。对于域外的新数据样本，引入的偶然不确定性不变，但认知不确定性增大。建模认知不确定性的通常方法是为模型权重设置先验分布，在给定数据集上估计模型权重的变化情况。现有的深度学习方法大多只能给出特定的预测结果，而不能给出结果的不确定性程度。
What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? 计算机视觉用于贝叶斯深度学习的不确定性
Chen_Xieyuanli的博客
01-04 1万+
本博客仅为作者记笔记之用，不对之处，望见谅，欢迎批评指正。 更多相关博客请查阅：http://blog.csdn.net/weixin_39779106； 如需转载，请附上本文链接：http://blog.csdn.net/weixin_39779106/article/details/78968982 原论文链接 一、摘要： 二、介绍： 创新点： 三、相关工作...
nfa确定化 dfa最小化_深度学习中的不确定性
weixin_40007668的博客
11-22 278
原文：What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? (NIPS 2017)深度学习模型给出的预测结果并不总是可靠的。在无人驾驶等安全性要求较高的领域中，完全依赖深度模型进行决策有可能导致灾难性的后果。如果能够让深度学习模型对于错误的预测给出一个较高的不确定性，我们就能判断一个预测结果可信程度...
深度学习模型不确定性方法对比
chumingqian的博客
10-23 558
在上图中，作者展示了 ensemble size 对于模型 calibration 的影响，可以看到随着 ensemble size 的提升，Brier Score 是逐渐缩小的，这说明 ensemble size 越大，模型的 calibration 能力是越好的，但超过 50 之后不会再有提升。4.从 e 和 f 中可以看出，这些方法在 OOD 数据上都显示了比较低的 entropy，并且在 OOD 的数据上给出了比较高的 confidence，说明他们对于 OOD 数据预测较为错误。
探索深度学习的不确定性：Bayesian-Torch 开源库
gitblog_00037的博客
06-08 757
探索深度学习的不确定性：Bayesian-Torch 开源库 项目地址:https://gitcode.com/gh_mirrors/ba/bayesian-torch 在机器学习领域，尤其是深度学习中，模型的预测往往被视为确定性的，但实际应用中，我们希望了解模型的不确定性和置信度。Bayesian-Torch 是一个强大的 Python 库，它扩展了 PyTorch 的核心功能，使您能够轻松地在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值