对比学习
文章平均质量分 86
_春天_
这个作者很懒,什么都没留下…
展开
-
【论文阅读-对比学习】Constructing Contrastive Samples via Summarization for Text Classification
今天看一篇ACL findings上关于对比学习的论文。故事点是小样本+文本的数据增强方式。 过两天总结一下NLP领域数据增强的方式吧。Title: Constructing Contrastive Samples via Summarization for Text Classification with Limited AnnotationsFrom: ACL Findings 2021Link: https://aclanthology.org/2021.findings-emnlp.118/原创 2022-03-31 18:08:06 · 728 阅读 · 0 评论 -
【论文阅读-对比学习】ConSERT- A Contrastive Framework for Self-Supervised Sentence Representation Transfer
今天继续来看对比学习的一篇论文,比SimCSE稍晚几个月发的,主要关注在embeddings层的不同的数据增强方式。该阅读笔记首发于:https://zhuanlan.zhihu.com/p/481581904Title: ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation TransferFrom: ACL 2021Link: https://aclanthology.org/2021.acl-l原创 2022-03-18 13:43:36 · 4210 阅读 · 0 评论 -
【论文阅读-对比学习】SimCSE Simple Contrastive Learning of Sentence Embeddings
今天分享下Danqi大佬的SimCSE。文章首发于https://zhuanlan.zhihu.com/p/477334784Title: SimCSE: Simple Contrastive Learning of Sentence EmbeddingsFrom: EMNLP 2021Link: https://arxiv.org/abs/2104.08821论文提出了基于对比学习框架的SimCSE,来是提升句向量的嵌入表示。在有监督和无监督的语义相似度任务上取得了SOTA效果。背景知识先介原创 2022-03-10 10:01:27 · 1382 阅读 · 0 评论 -
对比学习技术进展跟踪
对比学习最近挺火的,集中读读相关的论文。先挖个大坑,慢慢填。核心思想是缩短两个正样本之间的距离,拉大负样本之间的距离。待读论文list:SimCSE: Simple Contrastive Learning of Sentence Embeddings来源:EMNLP 2021链接:https://aclanthology.org/2021.emnlp-main.552/陈丹琦组在EMNLP2021上的新作,真的巧妙,大道至简,什么样的聪明小脑瓜能想出这样绝妙的idea,又简单又鲁棒,实验和原创 2021-12-03 15:31:42 · 673 阅读 · 0 评论