【论文泛读169】少数线索：中文的小样本学习评估基准

最新推荐文章于 2024-03-06 19:51:38 发布
最新推荐文章于 2024-03-06 19:51:38 发布
阅读量511 收藏 1
点赞数 1
分类专栏： 论文 # NLP_paper 文章标签： paper 小样本 评估
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41485273/article/details/118860974
版权
FewCLUE是中国首个全面的小样本学习评估基准，包括9个NLU任务，促进了对预训练语言模型在小样本场景下性能的公平比较。研究表明，PET是五种评估方法中表现最佳的。此外，基准提供了额外的未标记数据和多种训练/验证集，以提高评估的稳定性和准确性。
摘要由CSDN通过智能技术生成

贴一下汇总贴：论文阅读记录

论文链接：《FewCLUE: A Chinese Few-shot Learning Evaluation Benchmark》

一、摘要

预训练语言模型 (PLM) 在自然语言理解任务中取得了巨大成功。虽然针对英语等语言已经广泛探索和比较了不同的学习方案——微调、零样本和少样本学习——但在中文方面，公平、全面地评估和比较这些方法的工作相对较少。这项工作首先介绍了中文小样本学习评估基准（FewCLUE），这是中文第一个综合性小样本评估基准。它包括九个任务，从单句和句子对分类任务到机器阅读理解任务。鉴于小样本学习性能的高方差，我们提供了多个训练/验证集，以促进对小样本建模的更准确和稳定的评估。提供了每项任务最多包含 20,000 个额外样本的未标记训练集，使研究人员能够探索使用未标记样本的更好方法。接下来，我们实现了一组最先进的 (SOTA) 小样本学习方法（包括 PET、ADAPET、LM-BFF、P-tuning 和 EFL），并将它们的性能与微调和零-新构建的FewCLUE基准上的镜头学习方案。我们的结果表明：1）所有五种小镜头学习方法都表现出比微调或零镜头学习更好的性能；2）五种方法中，PET是表现最好的少拍方法；3）小样本学习性能高度依赖于特定任务。我们的基准测试和代码可在 允许研究人员探索使用未标记样本的更好方法。接下来，我们实现了一组最先进的 (SOTA) 小样本学习方法（包括 PET、ADAPET、LM-BFF、P-tuning 和 EFL）

最低0.47元/天 解锁文章
及时行樂_
关注
专栏目录
【小样本基础】小样本的性能评价标准总结（小样本重新编码 / Per-class metrics / Overall metrics ）
vector的博客
03-17 2667
本篇博客将介绍数据重新编码下的小样本性能评价指标，以及从以往阅读的论文中总结的适用于小样本场景的评价方式。
【论文&模型讲解】文本分类 Towards Unified Prompt Tuning for Few-shot Text Classification
Friedrichor的博客
12-25 1319
UPT (Unified Prompt Tuning) few-shot 文本分类 Towards Unified Prompt Tuning for Few-shot Text Classification
2.2 评估方法 机器学习
最新发布
2403_83073833的博客
03-06 1352
我们若有一个包含m个样例的数据集，若我们既需要训练，也需要测试，我们该如何处理呢？
《Few-shot Classifier GAN》一篇不一样的小样本学习方法
xianqin_ma的博客
04-07 1万+
《Few-shot Classifier GAN》一篇不一样的小样本学习方法本博客前言摘要功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图...
小样本目标检测：few-shot-object-detection训练自己的数据集
qq_35030874的博客
05-18 1万+
few-shot-object-detection代码实验过程 一、基础配置 1、代码下载 https://github.com/wz940216/few-shot-object-detection 2、windows10配置安装detectron2 https://blog.csdn.net/qq_35030874/article/details/116915874?spm=1001.2014.3001.5501 3、运行demo测试环境 下载作者训练模型 http://dl.yf.io/fs-det/m
【论文泛读138】BARTScore：将生成的文本评估为文本生成
scu-liu的博客
06-23 2067
贴一下汇总贴：论文阅读记录 论文链接：《BARTScore: Evaluating Generated Text as Text Generation》 一、摘要 各种各样的 NLP 应用程序，例如机器翻译、摘要和对话，都涉及文本生成。这些应用程序面临的一个主要挑战是如何评估此类生成的文本是否真正流畅、准确或有效。在这项工作中，我们将生成文本的评估概念化为文本生成问题，使用预训练的序列到序列模型进行建模。一般的想法是，当生成的文本更好时，训练模型将生成的文本转换为参考输出或源文本将获得更高的分数。我们使用
【论文泛读149】GlyphCRM：汉字及其字形的双向编码器表示
scu-liu的博客
07-03 379
贴一下汇总贴：论文阅读记录 论文链接：《GlyphCRM: Bidirectional Encoder Representation for Chinese Character with its Glyph》 一、摘要 以往的工作表明，汉字的字形包含丰富的语义信息，具有增强汉字表征的潜力。利用字形特征的典型方法是将它们合并到字符嵌入空间中。受之前方法的启发，我们创新地提出了一种中文预训练表示模型，名为 GlyphCRM，它摒弃了基于 ID 的字符嵌入方法，而仅基于序列字符图像。我们将每个字符渲染成二进制灰度
【论文泛读183】用于小样本文本分类的元学习对抗域适应网络
scu-liu的博客
07-28 1044
贴一下汇总贴：论文阅读记录 论文链接：《Meta-Learning Adversarial Domain Adaptation Network for Few-Shot Text Classification》 一、摘要 元学习已成为解决少样本文本分类并实现最先进性能的趋势技术。然而，现有的解决方案严重依赖于对训练数据的词汇特征及其分布特征的利用，而忽略了增强模型适应新任务的能力。在本文中，我们提出了一种与对抗域适应网络集成的新型元学习框架，旨在提高模型的自适应能力并为新类别生成高质量的文本嵌入。在四个基准
【论文泛读164】MECT：基于多元数据嵌入的中文命名实体识别交叉变换器
scu-liu的博客
07-13 1801
贴一下汇总贴：论文阅读记录 论文链接：《MECT: Multi-Metadata Embedding based Cross-Transformer for Chinese Named Entity Recognition》 一、摘要 最近，词增强在中文命名实体识别（NER）中变得非常流行，减少了分割错误并增加了中文词的语义和边界信息。然而，这些方法在整合词汇信息后往往会忽略汉字结构的信息。汉字自古由象形文字演变而来，其结构往往反映了更多的文字信息。本文提出了一种新的基于多元数据嵌入的交叉变换器（MECT）
小样本学习(one/few-shot learning)
朴素.无恙的博客
04-03 6万+
原文：https://blog.csdn.net/mao_feng/article/details/78939864 原博地址：https://blog.csdn.net/xhw205/article/details/79491649 小样本学习 来源：我们人类是具有快速从少量（单）样本中快速学习能力的，其实在我们学习的过程中，人类的大脑将对象和类别组成有用的信息将之分类。 首先需要声明的是，小样...
小样本学习 | Learning to Compare: Relation Network for Few-Shot Learning
尘世冰封的专栏
06-12 3898
博主github：https://github.com/MichaelBeechan 博主CSDN：https://blog.csdn.net/u011344545 Learning to Compare: Relation Network for Few-Shot Learning 摘要 我们提出了一个概念上简单，灵活和通用的框架，用于小样本学习，其中分类器必须学习识别新类，只给出几个例子。 ...
基于PaddleNLP的小样本学习策略库EFL实现中文科学文献学科分类
m0_63642362的博客
11-06 1097
基于PaddleNLP的小样本学习策略库EFL实现中文科学文献学科分类
AI Studio 精品项目 | 基于Few-shot Learning实现中文科学文献学科分类
PaddlePaddle
07-24 692
点击左上方蓝字关注我们AI Studio精品项目征集AI Studio基于百度深度学习开源平台飞桨，为开发者免费提供功能强大的线上训练环境、云端超强GPU算力及存储资源。沉淀了90万+实训...
预训练时代微调新范式，高性能加速2800%，NLPer赶紧看过来！
AI科技大本营
10-12 395
导读PaddleNLP 是兼具科研学习和产业实践能力的 Python NLP 工具包，提供中文领域丰富的预训练模型和部署工具，被高校、企业开发者广泛应用。近日，PaddleNLP v2.1...
小样本学习(Few-shot Learning)
柠檬的博客~~~
09-13 3671
小样本学习(Few-shot Learning)
Few-shot learning（少样本学习）和 Meta-learning（元学习）概述
热门推荐
CaoChengtai的博客
06-18 6万+
目录（一）Few-shot learning（少样本学习）1. 问题定义2. 解决方法2.1 数据增强和正则化2.2 Meta-learning（元学习）（二）Meta-learning（元学习）1. 学习微调 (Learning to Fine-Tune)2. 基于 RNN 的记忆 (RNN Memory Based)3.度量学习 (Metric Learning)4.方法简单比较5.未来方向5...
少样本学习
搞java的ml/dl入坑者~
05-14 5462
深度学习是data hungery的方法， 需要大量的数据，标注或者未标注。少样本学习研究的就是如何从少量样本中去学习。拿分类问题来说,每个类只有一张或者几张样本。少样本学习可以分为zero-shot learning，即要识别训练集中没有出现过的类别样本，和one-shot learning/few shot learning,即在训练集中，每一类都有一张或者几张样本。 人类是有少样本学习的能...
PHP与JSON的一些常用操作
HelloWorld
09-30 2048
PHP把数据写入JSON文件 <?php // 生成一个PHP数组 $data = array (); $data ["fruit"] = "apple" ; $data ["animal"] = "tiget"; // 把PHP数组转成JSON字符串,写入文件 $json_string = json_encode( $data ); ?> PHP读取JSON数据? <?php // 从文件中读取数据到PHP变量 $str = file_get_contents ( 'one
论文PPT指南：从泛读到精通，技术写作策略提炼
在学术研究的道路上，撰写一篇高质量的论文PPT是研究生阶段不可或缺的一部分。本文档提供了五个关键步骤和指南，旨在确保你的计算机科学论文具备专业呈现的最低标准，尽管尚未发表。这些准则对初学者和资深研究者都...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值