A Survey of Learning on Small Data（二）

已于 2023-06-08 18:22:29 修改
阅读量324 收藏 2
点赞数
分类专栏： Survey Paper 机器学习 文章标签： 机器学习 人工智能
于 2022-10-17 20:49:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/c_cpp_csharp/article/details/126833079
版权

本文是《A Survey of Learning on Small Data》的翻译。原文链接

小数据学习综述

4. 几何角度

从几何角度来看，可以在欧几里德空间和非欧几里得（双曲）空间中对小数据进行学习。为了学习有效的几何表示，我们研究了关于Frechet平均值统一表达式的欧氏平均值和双曲平均值的性质。

4.1 Frechet均值

为了理解从统计总体中抽样的观察值集合，将观察值的平均值作为一个强大的统计数据，以从基本分布中总结观察值。什么意思？根据不同的数据分布和统计目标，它可能会有所不同。为了描述真实世界数据的表示，平均值的典型候选值可能是算术平均值和中值，但在某些情况下，几何平均值或调和平均值可能更可取。当数据存在于没有向量结构的集合中时，例如流形或度量空间，需要不同的均值概念，即Frechet均值。
概率度量中的Frechet均值。我们探索了一个可以用较少的结构来定义的一般平均值，但包含了平均值的常见概念——Frechet平均值。Frechet均值是几何表示中的一个重要蕴涵（含义），它嵌入了一个“质心”，以指示度量空间上的局部特征（邻

了解本专栏 订阅专栏 解锁全文 超级会员免费看
UnknownBody
关注
专栏目录
订阅专栏
A Survey of Learning on Small Data（一）
c_cpp_csharp的专栏
10-17 570
在大数据上学习为人工智能（AI）带来成功，但标注和训练成本昂贵。未来，在小数据上学习是人工智能的最终目的之一，它要求机器将依赖小数据的目标和场景识别如人类一样。一系列的机器学习模型正在以这种方式进行，如主动学习、小样本学习、深度聚类。然而，对于它们的泛化性能几乎没有理论保证。此外，它们的大多数设置是被动的，即标签分布由一个指定的采样场景显式控制。本综述遵循PAC（可能近似正确）框架下的不可知主动抽样，以有监督和无监督的方式分析小数据学习的泛化误差和标签复杂性。
A Survey on Deep Learning Techniques Applied to medical image analysis
AI天才研究院
08-13 287
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
Frechet Distance距离算法详解
热门推荐
weixin_42765516的博客
03-15 1万+
Frechet Distance 它是计算两曲线距离的算法，用来判断两曲线的相似度，计算结果越小说明相似度越高 基于python实现该算法 需要下载numpy包 import math import numpy as np # 这个方法是计算两点的距离公式 def euc_dist(pt1, pt2): return math.sqrt((pt2[0]-pt1[0])*(pt2...
A Survey of Adversarial Learning on Graph
weixin_44017891的博客
04-15 1785
图的对抗性学习概况 概述： 图上的深度学习模型在各种图分析任务（例如节点分类，链接预测和图聚类）中均取得了卓越的性能。但是，它们暴露了对设计良好的输入（即对抗性样本）的不确定性和不可靠性。因此，针对不同图分析任务中的攻击和防御都出现了各种研究，从而导致了图对抗学习中的军备竞赛。例如，攻击者具有中毒和逃避攻击，防御小组相应地具有基于预处理和对抗的方法。 论文： A Survey of Adversa...
【数据增强】综述：A survey on Image Data Augmentation for Deep Learning
qq_40731332的博客
07-17 3023
主体部分来自论文《A survey on Image Data Augmentation for Deep Learning》，新增了一些近年的论文。 我认为问题的根本在于模型学习了数据中的bias。一个过拟合的模型会去学习数据中存在的bias，如人脸识别中的position bias，或是普遍存在的lighting bias等。在风格迁移中，会称为不同的domain，如白天/夜晚，雨天/晴天等。解决问题有两个思路： 1. 模型本身。控制模型的复杂度，使得模型去学习general而不是special的.
【论文笔记】A Survey on In-context Learning
jinniulema的博客
10-08 2484
随着大模型能力的增强，上下文学习（In-context learning, ICL）已成为自然语言处理的新范式，其中LLM仅仅基于添加了几个示例的上下文进行预测。探索ICL来评估和推断LLM的能力已经成为一种新的趋势。本文旨在调查和总结ICL的进展和挑战。首先给出了ICL 的正式定义，并阐明了它和相关研究的相关性。然后，组织并讨论了先进的技术，包括训练策略，演示设计策略以及相关分析。最后，讨论了ICL面临的挑战，并为进一步研究提供了潜在的方向。
【论文笔记】Deep Learning on Graphs: A Survey
weixin_44884854的博客
09-24 3951
1 INTRODUCTION This problem is non-trivial because several challenges exist in applying traditional deep learning architectures to graphs: 这个问题是非常重要的，因为在将传统的深度学习架构应用于图形时存在一些挑战： Irregular structures of graphs.图的不规则结构 Heterogeneity and diversity of graphs.图的
[论文笔记03] Review–A Survey of Learning from Noisy Labels
WindyZXY的博客
03-06 997
在本次调查中，我们将现有的噪声标签学习工作总结为两个主要类别：损失校正和样本选择，并介绍它们的方法、常用的实验设置、数据集和最先进的结果。最后，我们讨论了一个有前途的研究方向，可能对未来的研究有价值。
深度强化学习综述论文 A Brief Survey of Deep Reinforcement Learning
白水的博客
01-28 7217
A Brief Survey of Deep Reinforcement Learning 深度强化学习的简要概述 作者： Kai Arulkumaran, Marc Peter Deisenroth, Miles Brundage, Anil Anthony Bharath 文章目录摘要 Abstract1. 引言 Introduction2. 奖励驱动行为 Reward-Driven Behavior2.1. 马尔科夫决策过程 Markov Decision Processes2.2. 强化学习的挑
A Survey of the Usages of Deep Learning for Natural Language Processing2019综述学习
weixin_45562632的博客
09-07 2051
A Survey of the Usages of Deep Learning for Natural Language Processing2019综述学习1.介绍2.自然语言处理和深度学习2.1自然语言处理2.2神经网络和深度学习2.2.1 CNN 摘要 在过去的几年里，随着深度学习模型的大量使用，自然语言处理领域得到了极大的发展。本调查对该领域进行了简要介绍，并简要概述了深度学习体系结构和方法。然后，它筛选了大量最近的研究，并总结了大量相关的贡献。分析的研究领域除了计算语言学的一些应用外，还包括几个核
论文阅读 ：A survey of visual analytics techniques for machine learning
qq_44654498的博客
12-19 2356
A survey of visual analytics techniques for machine learning
机器学习中的模型设计与训练流程详解
cooldream2009的博客
10-12 1251
机器学习在数据驱动的现代社会中发挥着重要作用，被广泛应用于金融、医疗、推荐系统等领域。模型设计、训练、优化和选择是实现智能系统的核心步骤，在这个过程中，需要考虑多方面因素，如数据量、计算资源、模型复杂度等。在本文中，我们将深入探讨机器学习中的模型设计、训练、优化、测试与选择的流程，详细解释如何在这些环节中做出合理的决策，以构建出高效的机器学习系统。
【交通标志识别系统】Python+卷积神经网络算法+人工智能+深度学习+机器学习+算法模型
子午的博客
10-12 843
交通标志识别系统。本系统使用Python作为主要编程语言，在交通标志图像识别功能实现中，基于TensorFlow搭建卷积神经网络算法模型，通过对收集到的58种常见的交通标志图像作为数据集，进行迭代训练最后得到一个识别精度较高的模型文件，然后保存为本地的h5格式文件。再使用Django开发Web网页端操作界面，实现用户上传一张交通标志图片，识别其名称。在本项目中，开发了一个基于人工智能的交通标志识别系统，旨在利用深度学习技术对常见的交通标志进行高效、准确的识别。
G1 GAN生成MNIST手写数字图像
最新发布
tjl521314_21的博客
10-15 754
生成对抗网络 (GAN) 是一种通过“对抗性”学习生成数据的深度学习模型，通常用于生成图像、视频等数据。生成器 (Generator)：用于生成假的数据样本，试图让判别器无法分辨其为假的。判别器 (Discriminator)：用于区分输入的数据是真实的还是生成器生成的。GAN 的核心思想是，生成器和判别器通过相互对抗学习，生成器逐渐提高生成逼真数据的能力，而判别器逐渐提高区分真假数据的能力。最后，生成器生成的样本与真实样本之间的差异会越来越小。
信息论、机器学习的核心概念：熵、KL散度、JS散度和Renyi散度的深度解析及应用
deephub
10-15 4096
本文深入探讨了信息论、机器学习和统计学中的几个核心概念：熵、KL散度、Jensen-Shannon散度和Renyi散度。这些概念不仅是理论研究的基石，也是现代数据分析和机器学习应用的重要工具。熵作为信息论的基础，为我们量化信息和不确定性提供了数学框架。而各种散度度量则进一步扩展了这一概念，使我们能够比较和分析不同的概率分布。KL散度凭借其在衡量分布差异方面的独特性质，在诸如变分推断、模型压缩等领域发挥着关键作用。
机器学习与神经网络的发展前景
zheng_ruiguo的专栏
10-12 538
随着技术的不断进步和社会需求的增加，机器学习和神经网络的发展前景非常广阔。这些技术在解决实际问题和改善生活质量方面已经取得了重大突破，未来仍然有巨大的潜力。
机器学习篇-day06-集成学习-随机森林 Adaboost GBDT XGBoost
m0_60916732的博客
10-12 1451
多个弱学习器组合成一个更强大的学习器，解决单一预测，进步一得到更好性能。# 导包​from sklearn.ensemble import RandomForestClassifier # 随即森丽分类​​# 定义随机森立函数# 数据读取# 数据基本处理# 确定特征和标签# print(x)# print(y)# 空值处理(填充)print(x)​# 处理字符类型 数据​# 数据划分x, y,stratify=y​# 模型训练# 决策树模型​。
【动物识别系统】Python+卷积神经网络算法+人工智能+深度学习+机器学习+计算机课设项目+Django网页界面
子午的博客
10-12 797
动物识别系统。本项目以Python作为主要编程语言，并基于TensorFlow搭建ResNet50卷积神经网络算法模型，通过收集4种常见的动物图像数据集（猫、狗、鸡、马）然后进行模型训练，得到一个识别精度较高的模型文件，然后保存为本地格式的H5格式文件。再基于Django开发Web网页端操作界面，实现用户上传一张动物图片，识别其名称。
机器学习实战28-如何利用机器学习中的经典模型进行买房决策的实战应用
weixin_42878111的博客
10-15 1044
对于买房，作为人生中一项重大的财务决策，不仅涉及个人居住质量的提升，还关乎资产配置与财富增长的长远规划。随着房地产市场的复杂多变，传统基于经验的购房决策模式日益显露出局限性。近年来，房地产价格在逐步得回归正常居住属性，房子的价格也在回落，本文我们通过机器学习进行分析房价的合理区间，机器学习作为一种强大的数据分析工具，因其在处理复杂数据、发现隐藏规律及进行精准预测方面的能力，被广泛探讨并逐步应用于买房决策过程中，为购房者提供更加科学、全面的辅助决策支持。
a survey of deep learning approaches to image restoration
09-16
深度学习方法在图像恢复领域中的调查结果显示，深度学习模型已成为目前最先进的图像恢复方法之一。深度学习模型的优势在于其学习能力和自动化特性。 首先，深度学习模型对于图像恢复任务的学习能力更强。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值