深度学习：多示例多标签学习DeepMIML

https://blog.csdn.net/m0_38034312/article/details/77995412

DeepMIML：https://blog.csdn.net/w5688414/article/details/78990301

多示例多标记的出现：真实的对象并不具有唯一的语义。简单来讲一个对象有不同的特征和属于不同的类别

多示例多标记的优点：先过吧，并没有直观的体会到。比如1对多并不是合式函数，从子概念出发更容易分类等。

算法：基于退化策略的miml学习算法(简单理解一下就是从复杂拆分到简单，退化为传统的监督学习问题）

论文

论文本身提出了一个sub concepts层，能够捕获insance和label之间的关系，应该是multi insatnce multi label中的一个很好的深度学习模型。

 

传统的网络结果例如resnet

224*224->model(resnet)->7*7*1024->gobal pooling 1*1*1024->fc->10class(softmax)

stride 32

2D  single instance 

L是max pooling 出的列

2D的意思是每个L有K个属性值

3D  multipe instances

例如 15*15 *1 -》》15*15*K  子概念层 --》max-pooling via depth

 

 

 

 

1 介绍

在许多真实世界应用中，感兴趣的对象具有固定的结构，并且它可以表示了一袋实例（a bag of instances），多个标签和这个bag级别相关。例如，在文本分类中，每个文档可能有一些句子作为实例，并且有许多标签指派给文档级别。Multi-Instance Multi-Label为解决这种问题提供了一个框架。
精确地，以MIML的角度，训练数据为{(X1,Y1),…,(Xm,Ym)},包含 bags of instances，其中，没给bag Xi可以表示为Zi实例，例如{xi,1,xi,2,…xi,zi}。输出Yi是一个所有可能性标签{y1,y2,…yL}的子集,其中L为可能的单个标签的数量。过去几年提出了很多MIML的算法，并且应用到了不同域的任务中，例如图片分类，文本分类，视频标注，基因功能预测（gene function prediction），生态系统保护（ecosystem protection）等等。
大多数MIML的研究假设实例（instances）已经提前给出，或者通过一些手工的实例产生器（instance generators）产生，实例产生器直接从原数据集中提取实例。最近，在图片任务上的经验研究表明，无手工设计的实例产生器占据主导。考虑到特征学习技术已经在许多领域都击败了手工特征工程，这促使我们尝试去用自动表示学习来解决MLML问题，尽管这需要大量的数据。

2贡献

在这篇文章中，我们提出了DeepMIMLnetwork，正如其名，这是一个深度神经网络模型，DeepMIML天生具有深度模型的表示学习能力，因此，我们不需要使用另外的实例产生器来产生实例描述。相反，模型本身就可以完成实例表示产生和后继的学习过程。另外，我们仔细的设计了sub-concepts层，MIML的一个明显的优势是，例如，发现输入对和输出语义标签的潜在联系，这个层可以插曲其它类型的网络结构中，例如CNN，使他们具有发现pattern-label关系发现能力。DeepMIM