论文阅读笔记——Multi-Label Learning by Exploiting Label Correlations Locally（利用局部标签相关性进行多标签学习）

最新推荐文章于 2023-04-19 11:13:27 发布
最新推荐文章于 2023-04-19 11:13:27 发布
阅读量711 收藏 2
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35368303/article/details/113644616
版权
本文介绍ML-LOC方法，通过编码局部标签相关性增强实例特征表示，将全局判别与局部相关性结合，提出交替优化策略。通过实例编码、目标函数推导及交替解决方案，展示如何构建并训练模型，适用于多标签学习场景。
摘要由CSDN通过智能技术生成

目录

The ML-LOC Approach

1、框架

2、目标函数推导过程

2.1.将全局判别拟合和局部相关灵敏度整合到一个统一的框架中，所以将同时优化和，使下面的函数最小：

2.2.将公式2、3、5代入公式1中

2.3.交替解决方案

摘要

1、为了编码标签相关性的局部影响，推导了一个LOC代码来增强每个实例的特征表示；

2、将全局判别拟合和局部相关灵敏度整合到一个统一的框架中，并提出了交替求解的优化方法。

The ML-LOC Approach

1、框架

对每个实例Xi引入向量Ci编码表示，为了编码标签关联的局部影响，并用代码扩展原始特征表示；

2、目标函数推导过程

2.1.将全局判别拟合和局部相关灵敏度整合到一个统一的框架中，所以将同时优化$f和C，使下面的函数最小：

$$ \min _{\mathbf{f}, C} \sum_{i=1}^{n} V\left(\mathbf{x}_{i}, \mathbf{c}_{i}, \mathbf{y}_{i}, \mathbf{f}\right)+\lambda_{1} \Omega(\mathbf{f})+\lambda_{2} Z(C) $$   （1）

V表示损失函数

\Omega控制模型$ f $复杂性的正则化器

Z增强编码C的局部性的正则器，即让标签

最低0.47元/天 解锁文章
weeekly
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
论文阅读笔记——Multi-Label Learning with Global and Local Label Correlation（具有全局和局部标签相关性的多标签学习）
qq_35368303的博客
02-01 1326
一、低秩矩阵 如果X是一个m行n列的数值矩阵，rank(X)是X的秩，假如rank (X)远小于m和n，则我们称X是低秩矩阵。低秩矩阵每行或每列都可以用其他的行或列线性表出，可见它包含大量的冗余信息。利用这种冗余信息，可以对缺失数据进行恢复，也可以对数据进行特征提取。 二、矩阵填充 已知A的秩rank(A)<<m且rank(A)<<n，那么我们可以通过矩阵各行(列)之间的线性相关将丢失的元素求出。你会问，这种假定我们要恢复的矩阵是低秩的，合理吗？实际上是十分合理的，比如一个用户
多标签学习方法Multi-Label Learning by Exploiting Label Correlations Locally
我的博客
10-17 1671
文章目录Multi-Label Learning by Exploiting Label Correlations Locally2012 AAAISheng-Jun Huang Zhi-Hua Zhou摘要ML-LOC 方法框架算法流程 Multi-Label Learning by Exploiting Label Correlations Locally 2012 AAAI Sheng-Ju...
Enhancing Label Correlation Feedback in Multi-Label Text Classification via Multi-Task Learning
qq_36618444的博客
03-24 1200
ACL2021 finding 本文引入了一种新的多任务学习方法来增强标签相关反馈。首先利用一种联合嵌入(JE)机制来同时获取文本和标签的表示，并借助注意力机制对其进行增强。此外，提出了两个辅助的标签共现预测任务来提高标签相关学习:1)两两标签共现预测(Pairwise label Co-occurrence Prediction，PLCP)和2)条件标签共现预测(Conditional label Co-occurrence Prediction，CLCP)，分别捕捉多标签之间的一阶相关性和高阶相关性。
一个文章有多个标签，根据这些标签找出相似度高的其他文章，SQL句子当时这么整，留做记录。
liwenkai2002的专栏
01-25 1538
从一个表中找出想似度高的N条数据拿出来
论文阅读【11】Enhancing Label Correlation Feedback in Multi-Label Text Classification via Multi-Task Learn
qq_35653657的博客
02-27 483
在多标签文本分类（MLTC）中，每个给定的文档都与一组相关的标签相关联。为了捕获标签相关性，之前的分类器链和序列到序列模型将MLTC转换为序列预测任务。然而，它们往往存在标签顺序依赖性标签组合过拟合和误差传播等问题。为了解决这些问题，我们引入了一种新的多任务学习方法来增强标签相关反馈。我们首先利用联合机制来同时获得文本和标签表示.在MLTC任务中，采用文档-标签交叉注意（CA）机制来生成更具鉴别性的文档表示,此外，我们提出了两个辅助的标签共现预测任务成对标签共现预测（PLCP）
multi-label classification by exploiting label correlations
11-24
multi-label classification by exploiting label correlations
Multi-Label Ensemble Learning
02-29
Multi-label learning aims at predicting potentially multiple labels for a given instance. Conventional multi-label learning approaches focus on exploiting the label correlations to improve the ...
Exploiting object semantic cues for Multi-label Material Recognition
02-10
This paper focuses on a Multi-Label Material Recognition (M-LMR) problem that is to identify multiple material categories on an object from a single photograph. As a distinct task, material ...
Containment Control of Multi-agent Systems by Exploiting the Control Inputs of Neighbors
02-10
本文探讨了多智能体系统中的包容控制问题，涉及多个领导者和追随者构成的网络。研究的目标是设计控制协议，使得领导者能够达到一个预想的形态，同时追随者收敛到领导者凸包的形态。文章提出了一种新型的控制协议，该...
Relevance Metric Learning for Person Re-Identification by Exploiting Global Similarities
02-21
其方法具体是在全局范围内对相似性分数进行预先定义，并通过特征向量的相关性来衡量图像对之间的（不）相似性。该方法使用预先定义的列表式约束来学习相关度量，并确保所学习的度量保留了预先定义的列表式相似性。 ...
Enhancing Label Correlation Feedback in Multi-Label Text Classification via Multi-Task Learning笔记
weixin_44695049的博客
04-19 216
1. 首先，这篇文章在一开始的时候提到，之前的一些考虑通过标签相关性的方法有分类器链的方法还有序列到序列的方法，但是这些方法可能会收到标签的顺序依赖问题、标签结合过拟合以及错误的传播问题； 2. 为了解决上面的这些问题，本文中提到的方法是通过多任务学习来提升标签相关性上的反馈； 1. 首先，利用联合嵌入机制分别获取文本和标签的表示，通过使用文档-标签型的注意力机制从而捕获到更具有辨别性的文档表示 2. 之后，通过两种辅助的多标签共现预测任务提升标签共现学习。 - 一种是 Pairw
Multi-Label Transfer Learning for Semantic Similarity
CUG_UESTC的博客
07-04 973
介绍 本文提出了一种新颖的多标签迁移学习方法，以共同学习多个注释提供的信息，而不是将它们视为独立的任务。 随着句子编码器的最新发展和成功，将句子映射到固定长度矢量或句子嵌入，一种方法是首先使用预训练模型计算每个句子的嵌入，然后输出两个嵌入之间的余弦相似度。 作为预测的相似性。由于这些句子编码器是在大型语料库上训练的，这些语料库通常不属于语义相似性领域，因此迁移学习对于这种方法的表现至关重要。...
[论文阅读] Correlated Label Propagation with Application to Multi-label Learning
qq_31895943的博客
03-06 447
From: CVPR.2006.90 核心创新：simultaneously co-propagates multiple labels，明确的探索了high-order correlation between labels，在这篇文章提出的框架下有一个优势——考虑了the label correlation of any order Abstract 标准的标记传播算法是将训练...
kaggle：iMet Collection 2019 - FGVC6
qq_16236875的博客
06-29 349
1 评估指标 f2 score= 2 训练集与109237 张，测试集分为两个阶段，第一个阶段7443 张，第二阶段是unseen的，大小5.2 倍于test1. 3 数据分析 3.1 类别总数：1103 类，其中culture 有398 类，tag 有705 类 3.2 每张图像所含类别个数:1~11 ,大多数图像含有2-3个标签，但是有张图像含有11个。 3.3 前20的label 中的culture 和tag 分别占了整个数据集的0.72%和1.83% ,这说明大多数label 是所出现次
【机器学习】多标签分类怎么做？(Python)
fengdu78的博客
12-15 3577
一、基本介绍首先简单介绍下，多标签分类与多分类、多任务学习的关系：多分类学习（Multi-class）：分类器去划分的类别是多个的，但对于每一个样本只能有一个类别，类别间是互斥的。例如：分类器判断这只动物是猫、狗、猪，每个样本只能有一种类别，就是一个三分类任务。常用的做法是OVR、softmax多分类多标签学习（Multi-label ）：对于每一个样本可能有多个类别（标签）的任务，不像多分类任务...
论文学习记录随笔 多标签之GLOCAL
ALBlack的博客
06-26 858
原文: Yue Zhu, James T. Kwok, Zhi-Hua Zhou, Multi-Label Learning with Global and Local Label Correlation, IEEE Transactions on Knowledge and Data Engineering, 2018 (30), 1081–1094. 记录下读论文的一些体会
南京理工大学计算机学院教师信息,南京理工大学教师信息
weixin_42516051的博客
07-11 542
目前主要研究方向为机器学习、数据挖掘、模式识别、自然语言处理等。 已发表国际国内期刊、会议文章60余篇，出版著作2本。近几年部分代表文章：----------会议论文- Zhuoran Zheng (博士生), Wenqi Ren, Xiaochun Cao, Xiaobin Hu, Tao Wang, Fenglong Song,Xiuyi Jia. Ultra-high-definition ...
ACL2020-Modeling Label Semantics for Predicting Emotional Reactions 论文要点
qq_44861716的博客
09-09 354
ACL2020-Modeling Label Semantics for Predicting Emotional Reactions 论文要点
[nlp] LLS减少学习捷径:分析和缓解伪特征标签相关性
心宝的博客
07-14 1286
最近的许多研究表明，深度神经网络倾向于 采用数据集偏差作为决策依据，而不是 理解任务，这导致了实际应用的失败。在这项工作中，我们关注 特征和标签 之间的虚假相关性，这源于训练数据中的偏差数据分布，并对其进行了具体分析。特别是，我们将这个词定义为与特定的标签作为偏颇词高度共现，并将包含双基词的示例定义为偏颇示例。我们的分析表明，具有虚假相关性的有偏示例更易于模型学习，在预测时，有偏单词对模型的预测贡献显著高于其他单词，并且模型倾向于过度依赖单词和标签之间的虚假相关性来分配标签。 为了 克服模型对
memetic q-learning
最新发布
05-04
This approach allows the algorithm to learn faster and more efficiently than traditional Q-learning by exploiting the strengths of both approaches. In memetic Q-learning, the algorithm starts with a...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值