Multi-label learning 第一周

最新推荐文章于 2022-10-25 20:41:02 发布

Kodoo

最新推荐文章于 2022-10-25 20:41:02 发布

阅读量4k

点赞数 3

分类专栏： Multi-Label Learning 文章标签：机器学习多标签学习标签 MML

本文链接：https://blog.csdn.net/Kodoo/article/details/49735187

版权

本文介绍了多标签学习的概念，对比了传统机器学习与多标签学习的区别，并列举了多标签学习的常见算法及评估指标，如MLSVM、RankSVM等。

摘要由CSDN通过智能技术生成

Multi-Label Learning 第一周

Multi-Label Learning 第一周

Multi-Label Learning的含义

从今天开始Multi-Label Learning的学习，我会把学习的一点点心得记录下来，如果有不对的地方，请您指正。

Multi-Label Learning，顾名思义，指的就是多标签学习。其中，learning，当然指的是机器学习，而这里要研究的重点，就集中在Multi-label上。

传统机器学习

在传统的监督学习中，我们的研究对象集合中的一个个体一般通过一个实例(instance)，也就是一个特征向量来表达。然后这个实例会与一个标签(label)联系起来，这个标签用来表达这个研究对象的特征(比如它的类别信息)。如下图：
这里写图片描述

用公式化的说法，就是令 $X$ 为实例(instance)空间， $Y$ 为标签(label)空间，我们的目标就是从数据集 { (x1,y1),(x2,y2)

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Kodoo

关注关注

3
点赞
踩
17

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

多标签学习：LIFT: Multi-Label Learning with Label-Specific Features

Life in Technicolor

07-05

5880

多标签学习：LIFT: Multi-Label Learning with Label-Specific Features @(Machine Learning) Intro LIFT是张敏灵教授提出的多标签(multi-label)的学习方法。关于multi-label的介绍可以看我这篇博客，其中主要描述了multi-class、multi-label、multi-task的定义和区别...

Tailor Versatile Multi-modal Learning for Multi-label Emotion Recognition

最新发布

qq_42873279的博客

11-08

226

多模态多标签情感识别（MMER）旨在从异构的视觉、音频和文本模态中识别各种人类情感。以前的方法主要侧重于将多种模态投影到一个共同的潜在空间中并学习所有标签的相同表示，这忽略了每种模态的多样性并且无法从不同角度捕获每个标签更丰富的语义信息。此外，模态和标签的关联关系尚未得到充分利用。在本文中，我们提出了用于多标签情感识别的通用多模态学习（TAILOR），旨在细化多模态表示并增强每个标签的判别能力。具体来说，我们设计了一个对抗性多模态细化模块，以充分探索不同模态之间的共性并加强每种模态的多样性。

参与评论您还未登录，请先登录后发表或查看评论

Multi-Label Learning 笔记一A Review on Multi-Label Learning Algorithms

qq_36822881的博客

04-02

8618

1、定义定义为d维的实体空间，为q个可能标签的标签空间。multi-label learning就是从multi-label training set中学习函数。对于每个multi-label example 是一个d维的特征向量，就是与相关的一组标签。对于没有出现过的实体，多标签分类器为x预测出一组合适的标签。2、主要挑战 1、随着标签的增加，输出空间成指数性增长（20...

multi-task learning, multi-label learning, multi-class learning

NeXT_Vision的博客

01-08

763

文章目录1.单任务学习vs多任务学习2.什么是多任务学习3.多任务学习有效的原因4.相关（relate）定义5.多任务学习中的相关关系（task relationship）6.Multi-task Learning方法7.多任务学习与其他学习算法之间的关系8.多任务学习应用概述9.参考文献参考博客待阅读 1.单任务学习vs多任务学习单任务学习：一次只学习一个任务（task），大部分的机器学习任务都属于单任务学习。多任务学习：把多个相关（related）的任务放在一起学习，同时学习多个任务。

论文笔记：多标签学习综述（A review on multi-label learning algorithms）

Just for fun的专栏

04-10

1975

2014 TKDE(IEEE Transactions on Knowledge and Data Engineering)张敏灵，周志华简单介绍传统监督学习主要是单标签学习，而现实生活中目标样本往往比较复杂，具有多个语义，含有多个标签。本综述主要介绍了多标签学习的一些相关内容，包括相关定义，评价指标，8个多标签学习算法，相关的其它任务。论文大纲相关定义：学习任务，三种策略评价指...

多标签学习方法Multi-Label Learning by Exploiting Label Correlations Locally

我的博客

10-17

1797

文章目录Multi-Label Learning by Exploiting Label Correlations Locally2012 AAAISheng-Jun Huang Zhi-Hua Zhou摘要ML-LOC 方法框架算法流程 Multi-Label Learning by Exploiting Label Correlations Locally 2012 AAAI Sheng-Ju...

论文阅读笔记——Multi-Label Learning by Exploiting Label Correlations Locally（利用局部标签相关性进行多标签学习）

qq_35368303的博客

03-01

719

目录摘要 The ML-LOC Approach 1、框架 2、目标函数推导过程 2.1.将全局判别拟合和局部相关灵敏度整合到一个统一的框架中，所以将同时优化和，使下面的函数最小： 2.2.将公式2、3、5代入公式1中摘要 1、为了编码标签相关性的局部影响，推导了一个LOC代码来增强每个实例的特征表示； 2、将全局判别拟合和局部相关灵敏度整合到一个统一的框架中，并提出了交替求解的优化方法。 The ML-LOC Approach 1、框架对每个实例Xi引入向量Ci编码表示，

LaSO: Label-Set Operations networks for multi-label few-shot learning 论文笔记

qq_30146937的博客

04-28

1520

前言样本合成是解决小样本学习问题的方法之一，所谓样本合成，就是在给定少量训练样本的情况下，在特征空间中利用这些训练样本合成新的样本，然后利用这些合成样本提升小样本学习任务的泛化能力。但是目前的合成方法仅处理的是每个图像中仅有一个类别标签（比如C(Img)=dogC(Img)=dogC(Img)=dog）这样的情况，而多标签的情况还从未被提及过（比如C(Img)={dog,leash,person...

A Review on Multi-Label Learning Algorithms - KNN

Zhaohui1995_Yang的专栏

08-29

1231

在多标签分类中，有一种方法就是按照KNN的类似算法去求出每一个维度的结果。也是看周志华老师的review突然就想实现以下，然后实现了一个相当简单的。首先我们需要进行计算的是在近邻数目为k的情况下的贝叶斯分布的可能。也就是，首先对于每一个样本求其近邻，然后按照近邻在这一维度上的分类进行朴素贝叶斯的统计，遇到一个新样本，首先按照最近邻来计算近邻的集合，然后在每一个维度上根据其朴素贝叶斯的统计来进行计算。

Multi-Label Ensemble Learning

02-29

Multi-label learning aims at predicting potentially multiple labels for a given instance. Conventional multi-label learning approaches focus on exploiting the label correlations to improve the accuracy of the learner by building an individual multi-label learner or a combined learner based upon a group of single-label learners. However, the gener- alization ability of such individual learner can be weak. It is well known that ensemble learning can effectively improve the generalization abil- ity of learning systems by constructing multiple base learners and the performance of an ensemble is related to the both accuracy and diver- sity of base learners. In this paper, we study the problem of multi-label ensemble learning. Specifically, we aim at improving the generalization ability of multi-label learning systems by constructing a group of multi- label base learners which are both accurate and diverse. We propose a novel solution, called EnML, to effectively augment the accuracy as well as the diversity of multi-label base learners. In detail, we design two objective functions to evaluate the accuracy and diversity of multi- label base learners, respectively, and EnML simultaneously optimizes these two objectives with an evolutionary multi-objective optimization method. Experiments on real-world multi-label learning tasks validate the effectiveness of our approach against other well-established methods.

【笔记】A Review on Multi-Label Learning Algorithms

MLer

04-16

2405

本文可分为五个部分，INTRODUCTION中包括对Multi-label问题的非正式定义，应用范围介绍，近年国际会议和期刊中该领域论文录用和发表的情况，最后介绍了本文的结构。THE PARADIGM中包括对对Multi-Label learning问题的正式定义和常用的评价指标。LEARNING ALGORITHMS中介绍了用于Multi-Label Learning问题的主要算法，并且常用算法分

Deep Region and Multi-label Learning for Facial Action Unit Detection简要论文笔记

yinghua2016的博客

08-16

2673

Deep Region and Multi-label Learning for Facial Action Unit Detection 摘要：本文对以前的网络进行了改进，用一个统一的深度网络，同时解决Deep Region and Multi-label Learning(DRML) 这两个问题。 DRML中的一个重要方面是一个新的区域层（a region layer ），它使

多标签学习与深度森林学习笔记

goodljq的博客

05-21

1015

周志华老师团队Multi-Label Learning with Deep Forest (MLDF)报道很多，各大机器学习平台也都就这篇文章的亮点给出了分析。近日在准备组会报告时较为详细地拜读了一下，也由此简单了解了一下多标签学习的相关内容。正如论文作者所述，MLDF的最大优势在于：限制模型复杂性以防止过拟合可以根据用户需求进行优化实验表明，在多个标准数据集（benchmark dataset）上，深度森林在六种多标签学习的评价方法中取得了最佳表现，同时也具有在多标签问题中研

Multi-label learning for BP

Randolph_Lee的博客

04-06

521

# -*- coding: utf-8 -*- """ Created on 2017/4/5 9:52 2017 @author: Randolph.Lee """ from __future__ import division from pybrain.structure import * from Evaluation_metrics import * from Threshold_fun

多标签学习发展趋势

wuyanxue的专栏

10-25

1137

多标签学习研究综述

多标签分类，论文：A Review on Multi-Label Learning Algorithms

jingtingxu369的博客

11-12

1375

Problem transform， Binary relevance method(BR): BR transforms a multi-label problem into multiple binary problems; one problem for each label.Pairwaise classification approach(PW): a binary model

多标签学习算法回顾总结-A Review on Multi-Label Learning Algorithms

keepclamcarryonemma的博客

01-21

439

1、Section2多标签学习的基本概念，包括形式定义(学习框架、关键挑战、阈值校准)和评价指标(基于实例、基于标签、理论结果)。主要挑战是输出空间的大小，随着类标签数量的增加，标签集的数量呈指数增长。利用标签之间的相关性 2、Section3对8种具有代表性的多标签学习算法进行了分析和讨论 3、Section4几种相关的学习情境 ...

Multi-Label Learning with Emerging New Labels

qq_42722278的博客

09-06

400

Learning a Deep ConvNet for Multi-label Classification with Partial Labels代码浮现

06-01

好的，以下是使用PyTorch实现 "Learning a Deep ConvNet for Multi-label Classification with Partial Labels" 论文的示例代码。 ```python import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader from torchvision.transforms import transforms from sklearn.metrics import f1_score from dataset import CustomDataset from model import ConvNet # 设置随机数种子，保证结果可重复 torch.manual_seed(2022) # 定义超参数 epochs = 50 batch_size = 128 learning_rate = 0.001 weight_decay = 0.0001 num_classes = 20 num_labels = 3 # 定义数据预处理 transform = transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5)) ]) # 加载数据集 train_dataset = CustomDataset(root='./data', split='train', transform=transform) train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True, num_workers=2) test_dataset = CustomDataset(root='./data', split='test', transform=transform) test_loader = DataLoader(test_dataset, batch_size=batch_size, shuffle=False, num_workers=2) # 定义模型 model = ConvNet(num_classes=num_classes, num_labels=num_labels) # 定义损失函数和优化器 criterion = nn.BCEWithLogitsLoss() optimizer = optim.Adam(model.parameters(), lr=learning_rate, weight_decay=weight_decay) # 训练模型 for epoch in range(epochs): # 训练阶段 model.train() running_loss = 0.0 for i, data in enumerate(train_loader): inputs, labels = data optimizer.zero_grad() outputs = model(inputs) loss = criterion(outputs, labels) loss.backward() optimizer.step() running_loss += loss.item() train_loss = running_loss / len(train_loader) # 测试阶段 model.eval() y_true, y_pred = [], [] with torch.no_grad(): for data in test_loader: inputs, labels = data outputs = model(inputs) predicted_labels = torch.round(torch.sigmoid(outputs)) y_true.extend(labels.cpu().numpy()) y_pred.extend(predicted_labels.cpu().numpy()) f1 = f1_score(y_true, y_pred, average='macro') print('[Epoch %d] Train Loss: %.3f, Test F1: %.3f' % (epoch + 1, train_loss, f1)) ``` `CustomDataset` 和 `ConvNet` 分别是数据集类和模型类，需要根据您的具体情况进行实现。在训练阶段，使用 `nn.BCEWithLogitsLoss()` 作为损失函数进行优化。在测试阶段，使用 `sklearn.metrics.f1_score()` 计算 F1 值作为模型评估指标。希望以上示例代码对您有所帮助！