多示例论文泛读--2019-1-Fast Multi-Instance Multi-Label Learning

题目

Fast Multi-Instance Multi-Label Learning
快速多实例多标签搜索

算法思路

要处理多个标签的问题，最简单的方法是通过为每个标签独立训练一个模型，将其退化为一系列单标签问题。
基于标签$l$分类模型对实例$\mathbf{x}$的分类：
$$f_l(\mathbf{x})={\mathbf{w}}_l^{\top }{W}_0\mathbf{x}$$
实例$\mathbf{x}$的分类，$W_0$是映射原始特征向量映射到共享空间的$m\times d$维矩阵，${\mathbf{w}}_l$是标签$l$的$m$维权重向量，$d$和$m$分别是特征空间和共享空间的维度。

多实例多标签学习任务中的对象通常具有复杂的语义，因此，具有不同内容的示例可能会被分配相同的标签。 例如，标有苹果的图像的内容可以是手机、笔记本电脑或只是一个真正的苹果。 很难训练单个模型将具有如此多样化内容的图像分类到同一类别中。 相反，我们建议为一个复杂的标签学习多个模型，一个用于子概念，并自动决定一个示例属于哪个子概念。 每个子概念的模型要简单得多，并且可能更容易训练以适应数据。
$$f_l(\mathbf{x})=\underset{k=1\cdots K}{\max }{f}_{l,k}(\mathbf{x})=\underset{k=1\cdots K}{\max }{\mathbf{w}}_{l,k}^{\top }{W}_0\mathbf{x}$$
在这样的处理方式下，实例$\mathbf{x}$的分类模型也改变了，${\mathbf{w}}_{l,k}$是标签$l$的第$k$个子概念的$m$维权重向量

依照标准的多示例学习假设，则一个包的分类器如下
$$f_l(X)=\underset{\mathbf{x}\in X}{\max }{f}_l(\mathbf{x})$$
标签$l$对于包$X$的预测值取$l$对包中实例的最大预测值。
我们将具有最大预测的实例称为标签 $l$上$X$ 的关键实例。使用上述模型，对于示例 X 及其相关标签 l 之一，我们将 R(X; l) 定义为
$$R(X,l)=\sum _{j\in \bar{Y}}I\left[f_j(X)>f_l(X)\right]$$
其中$\bar{Y}$表示 $X$ 的不相关标签集，$I[.]$ 是指示函数，如果参数为真则返回 1，否则返回 0。本质上$R(X,l)$ 计算了在包$X$上的预测值大于标签 $l$的不相关标签的数量。（可以理解为，$R(X,l)$越大，则在整个标签集合的排序中，$X$与$l$越不相关。）

基于$R(X,l)$，原文又提出了排名误差：
$$ϵ(X,l)=\sum _{i=1}^{R(X,l)}\frac{1}{i}$$
很明显，对于较低的 $l$ 排名，排名误差更大。 最后，整个数据集的排名误差如下：
$$\text{ Rank Error }=\sum _{i=1}^n\sum _{l\in Y_i}ϵ(X,l)$$

---

后面是损失函数优化看不懂了