多示例学习 (multi-instance learning, MIL) 学习路线 (归类、重点文章列举、持续更新)

置顶 已于 2025-05-21 19:39:51 修改
阅读量8.5k 收藏 117
点赞数 40
分类专栏： # 深度学习 # 机器学习 文章标签： MIL 多示例 学习路线
于 2024-01-15 20:43:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44575152/article/details/135610544
版权

文章目录

  • 0 要点
  • 1 多示例背景介绍
  • 2 理论MIL概述
    • 2.1 传统MIL方法
    • 2.2 注意力网络
    • 2.3 自监督学习
    • 2.4 因果推断/介入学习
    • 2.5 图神经网络/图表示学习
    • 2.6 强化学习
    • 2.7 数据增强
    • 2.8 对抗生成网络
    • 2.9 大语言模型
  • 3 MIL交叉领域
    • 3.1 多模态多示例 (M3IL)
    • 3.2 多示例偏标签 (MIPL)
    • 3.3 多示例多标签 (MIML)
    • 3.4 多示例对抗攻击及防御 (MIL attack and denfense)
    • 3.5 多示例正和无标签学习 (PU-MIL)
    • 3.6 多示例分布外检测 (MIL-OOD)
    • 3.7 多示例主动学习 (MIL Active)
  • 4 MIL应用概述
    • 4.1 全幻灯片分类 (WSI)
    • 4.2 视频异常检测 (VAD)
    • 4.3 免疫库分类 (IRC)
  • 致谢

0 要点

说明：本文在于能够让大家能够更加快速地了解MIL这个领域，因此将从以下几个方面重点介绍MIL (这里不详细介绍每一篇文章，只做概述)。

会议合集：https://github.com/Lionelsy/Conference-Accepted-Paper-List
代码合集：https://github.com/lingxitong/MIL_BASELINE
Github版本：https://github.com/InkiYinji/MIL-Review

  • 注1：欢迎大家进一步交流，可以加入我建立的QQ群：649325831 (2024年1月15日建立)；
  • 注2：如果给出的文章包含代码，则可以点击其名称缩写获取；
  • 注3：承2，如果包含博客讲解，可以点击其全称获取；
  • 注4：承3，如果包含论文原文，可以点击会议缩写名获取；
  • 注5：一些缩写：
    - WSI：全幻灯片分类 (医学领域，目前最热门的MIL应用)；
    - VAD：视频异常检测；
    - ECG：心电图；
  • 注6：对于每一个小节，其侧重点有所不同：
    • 章节2 (理论MIL概述)：关注算法的实现细节；
    • 章节3 (MIL交叉领域)：MIL与多标签、偏标签、对抗攻击、分布外检测的一些结合；
    • 章节4 (MIL应用概述)：着重数据集的说明及其相关处理；
  • 注7：本人精力有限，希望能有更多的小伙伴和我一起完善这个博客~
  • 注8：后续将逐步将本博客的内容迁移至我的Github

1 多示例背景介绍

概述：多示例学习 (MIL) 是一种典型的弱监督学习，其输入的单个样本被称为包 (bag)，包中包含多个实例 (instance)。在训练阶段，通常只有包的标签可知，而实例的标签不可知或者获取成本极高。因此，概括性的，MIL与传统机器学习的主要区别在于：

  1. 弱监督场景：实例的数量巨大却没有标签，仅通过包标签来预测未知类，甚至预测实例标签是极具挑战性的；
  2. 数据结构：包是多个实例的集合，实例可以是向量、图像、视频等任意结构，因此传统机器学习可以看作是MIL的一种特殊情况；

纵观MIL发展历程，其可以分为几个阶段：

  1. 早期：从Dietterich团队的药物活性预测研究开始，尝试直接使用传统的机器学习方法解决MIL问题；
  2. 发展：尝试MIL问题的转换，通常使用嵌入函数或包相似性度量来将其简化为传统的机器学习问题；
  3. 深度：利用深度学习的强大特征提取及表征能力，直接预测包的标签，这也是目前MIL研究的重点；
  4. 应用：考虑更多背景信息，如视频的时序、医疗图像相邻区块的关联性，以更好地处理实际任务；

2 理论MIL概述

之所以优先介绍传统MIL方法，究其原因为：

  1. 传统MIL方法包含众多实用策略，其思想内核至今仍被前沿的深度MIL方法使用；
  2. 传统方法均可被深度MIL直接或间接复刻，通过对齐首要了解，可以为后续深度MIL方法学习打下基础；

2.1 传统MIL方法

传统MIL方法大致分为三种：

  1. 实例方法：首先预测实例标签，并通过MIL假设计算包标签；
  2. 包方法：设计类似于高斯核的MIL包距离度量，使得 k k kNN和SVM等基于距离矩阵的方法得以施展；
  3. 嵌入方法：将包转换为向量，使得传统机器学习策略生效，这也是目前MIL表征学习的基础；

详情参见

2.2 注意力网络

注意力机制的引入是深度MIL发展史上的一次伟大变革，其以Ilse等人发表的ABMIL和GAMIL为伊始，并深刻影响着后续MIL算法的发展。后续的基于对比学习、介入学习等策略的MIL大都围绕其展开，只是方法的侧重有所不同。
注意：大部分方法都包含注意力机制。因此，只要当前方法没有侧重其它策略，都被归属到此类。

详情参见

2.3 自监督学习

详情参见

2.4 因果推断/介入学习

详情参见

2.5 图神经网络/图表示学习

详情参见

2.6 强化学习

详情参见

2.7 数据增强

详情参见

2.8 对抗生成网络

详情参见

2.9 大语言模型

详情参见

3 MIL交叉领域

3.1 多模态多示例 (M3IL)

详情参见

3.2 多示例偏标签 (MIPL)

详情参见

3.3 多示例多标签 (MIML)

详情参见

3.4 多示例对抗攻击及防御 (MIL attack and denfense)

考虑MIL的弱监督设置，通过添加对抗扰动的方式愚弄MIL分类器，以解释模型的脆弱性和安全性。此外，对抗防御则用于降低MIL攻击者的效能。
详情参见

3.5 多示例正和无标签学习 (PU-MIL)

正和无标签学习 (PU) 的训练集中只包含正样本和无标记样本，对应的问题有叶片上的异常结冰检测、诈骗邮件检测等。
详情参见

3.6 多示例分布外检测 (MIL-OOD)

详情参见

3.7 多示例主动学习 (MIL Active)

详情参见

4 MIL应用概述

对于应用，重点关注数据集本身，以及相应的数据预处理策略。

4.1 全幻灯片分类 (WSI)

详情参照

4.2 视频异常检测 (VAD)

详情参照

4.3 免疫库分类 (IRC)

详情参照

致谢

机器学习笔记 - 多实例学习（MIL）弱监督学习
学以致用 知行合一
06-12 2936
多实例学习（MIL）是一种弱监督学习形式，其中训练实例被排列在称为袋的集合中，并为整个袋提供标签。这种方式越来越受到人们的关注，因为它自然适合各种问题，并允许利用弱标记数据。因此，它被应用于计算机视觉和文档分类等不同的应用领域。多实例学习（MIL）处理以集合形式排列的训练数据，称为bag。不提供袋子中所含实例的单独标签。这种问题表述引起了研究界的广泛关注，尤其是近年来，解决大型问题所需的数据量呈指数级增长。大量的数据需要越来越多的标签工作，弱监督方法，可以减少这种负担。
【深度学习|多实例学习】多实例学习（Multiple Instance Learning, MIL）的起源、发展和应用，附代码（一）
2401_89898861的博客
01-05 1179
【深度学习|多实例学习】多实例学习（Multiple Instance Learning, MIL）的起源、发展和应用，附代码（一）
【深度学习】基于注意力机制的多实例学习(MIL)图像分类
MUKAMO的博客
06-15 3102
多实例学习（MIL）图像分类技术，适用于医学图像分析中的弱监督学习场景。该技术将图像视为包含多个实例的包，通过注意力机制学习各实例的重要性，从而提高分类准确性。在乳腺癌组织病理学图像分类等应用中，MIL展现出良好的性能。然而，数据标注困难、模型复杂度及可解释性挑战仍需解决。随着深度学习技术的发展，MIL图像分类技术有望在医学图像分析领域得到更广泛应用，为疾病诊断提供有力支持。
多示例学习：LLM性能提升新范式
最新发布
XianxinMao的博客
04-03 429
多示例学习（Many-shot Learning）通过向大语言模型（LLM）提供大量上下文示例，显著提升了模型在多种任务中的表现，且无需额外训练。这种方法不仅适用于简单任务，还能改善复杂推理和规划任务的表现，甚至能够克服预训练中的偏见。多示例学习的优势包括无需额外训练、广泛适用性、提升复杂任务表现以及克服预训练偏见。此外，使用LLM生成的示例也能有效提升模型性能，标志着人类生成数据在AI训练中的主导地位可能逐渐减弱，进一步扩展了多示例学习的应用范围和潜力。未来，AI系统可能更多地依赖自身生成的数据进行学习和
Multiple Instance Learning
三少GG
12-09 9577
///////////////////////////////////////////推荐学习组////////////////////////////// http://www.robots.ox.ac.uk/~vgg/ //////////////////////////////////////////////////////////////////////////////////////
多示例学习（Multi-Instance Learning）
00000
06-08 9168
在机器学习中， 多示例学习 (MIL) 是由监督式学习演变而来的。相较于输入一系列被单独标注的示例，在多示例学习中，输入的是一系列被标注的“包”，每个“包”都包括许多示例。举一个二元分类的简单的例子，当包中的所有示例都是负例时，这个包会被标注为负包。另一方面，当包中至少含有一个正例时，这个包会被标注为正包。用图像分类举一个例子：给出一个图像，我们想要根据图像的画面内容来确定它的目标类别。比如，当图像同时包括了“沙子”和“水”时，图像的目标类别可能是“海滩”。
多示例学习（Multiple Instance Learning）
junmuzi的专栏
03-17 8357
original url: http://blog.csdn.net/loadstar_kun/article/details/22849247 多示例问题 （Multiple Instance Problem） 我们考虑这样一种训练数据，这个数据是有标记的，标记只有两个类别，正和负。但这一次标记的目标不是一个样本，而是一个数据包（bag)。某一个或者几个数据合在
MIL：多示例学习（Multiple Instance Learning）
一只攻城狮的博客
05-19 6179
多示例学习（Multiple Instance Learning）         多示例学习(multiple-instance learning)是1997年被提出的。其与监督学习、半监督学习和非监督学习有所不同，它是以多示例包(bag)为训练单元的学习问题。         在多示例学习中，训练集由一组具有分类标签的多示例包(bag)
多实例学习(MIL)
missgrass的博客
11-30 1538
多示例学习 multiple instance learning (MIL) 在多示例学习中，多示例包bag的label是已知的，示例instance的label是未知的。 图2属于正类，含有“大象”，这个图像label是训练集给定的。但是，图2的3个分割区（instance），哪个区域含有大象，哪个区域不含有大象，我们是不知道的。因此，在多示例中，多示例包bag (图像)的label是已知的（训练集给定的），但是，示例instance（分割区域）的label是未知的。我们的任务是，在正类多示例包bag和负
【深度学习|多实例学习】多实例学习（Multiple Instance Learning, MIL）的起源、发展和应用，附代码（二）
2401_89898861的博客
01-05 1349
【深度学习|多实例学习】多实例学习（Multiple Instance Learning, MIL）的起源、发展和应用，附代码（二）
机器学习13 -- 无监督学习之自监督 self-supervised
谢杨易的博客
09-12 1万+
1 为什么要自监督学习 self-supervised learning 自监督学习是无监督学习的一种特殊方式。我们在无监督学习中讲过了，标注label是十分宝贵的，一般需要人工打标，时间和人力成本都十分高昂。但现实中，获取无标注data确实相对比较easy的事情。我们可以在网络上爬取很多很多的文本、图片、语音、商品信息等。如何利用这些无标注data，一直以来都是无监督学习的一个重要方向。而自监督学习则给出了一种解决方案。 自监督学习通过data的一部分，来predict其他部分，由自身来提供监督信号，
多示例学习
12-01
关于多示例学习的概念，怎样分类数据包，以及多示例学习的具体应用
Q-learning算法在贪吃蛇游戏中取得突破性进展
强化学习是一种通过与环境交互来学习如何在特定任务上取得成功的机器学习范式。其核心思想是通过试错的方式，根据奖励信号来优化策略。强化学习方法中，Q-learning是一种非常经典的算法，它不依赖于模型，直接对策略...
13 Python学习总结：多任务，多线程
热门推荐
数据知道的博客
07-31 3万+
多任务和多线程是 Python 中实现并发编程的重要方式，能够提高程序的执行效率，特别是在 I/O 密集型任务中。以下是 Python 中多任务和多线程的核心概念和学习总结：
多示例学习 (multi-instance learning, MIL) 学习路线 (分类)
因吉的博客
03-05 1万+
多示例学习学习路线介绍，也适用于其他领域
Multiple Instance Learning（多实例学习）
m0_46154761的博客
11-27 2067
Multiple Instance Learning
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值