In-context Learning

已于 2023-02-16 18:15:32 修改
阅读量859 收藏
点赞数 1
分类专栏： NLP 文章标签： 深度学习 人工智能 Powered by 金山文档
于 2023-02-16 16:11:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/onlyxinbaby/article/details/129063047
版权

  1. formulate the

example + query -> LLM -> answer

no gradient descent and fine-tuning, no parameters update

advantages: 提供了与LLM进行交流的可解释的接口，通过template和demonstration将人类知识和LLM更好的结合；更像人类的预测思维，会根据类比；相比监督学习，更加的training-free。

  1. GPT-3具有较强的ICL能力，这个能力可以通过pretraining进行提升。

  1. 对prompting template、example、example的顺序敏感。

  1. (1) training phase培养大模型的ICL能力 (2) inference stage，根据具体的demonstration预测。

  1. 严格说ICL是prompt learning的子类，其中的demonstration和是prompt的一种，只不过demonstration是很多的xy对构成的。

  1. ICL和few shot learning不一样，因为ICL不需要参数更新。

  1. warmup是介于pretraining和 inference之间的，可选择的，一般是调整llm或者增加一些参数，不同于fine-tune，不会对llm针对具体任务进行训练。

https://arxiv.org/pdf/2301.00234.pdf

onlyxinbaby
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
大模型概念解析 | In-context Learning
NLOS的博客
03-09 120
In-context Learning（ICL）是指大模型在没有经过显式微调（explicit fine-tuning）的情况下，仅根据输入的上下文信息（context）就能够完成新任务的能力。与传统的有监督学习范式不同，ICL不需要为每个新任务准备大量标注数据并进行专门的训练，而是通过模型内部蕴含的知识和对上下文的理解，自适应地生成合适的响应。ICL具有以下几个关键特点：上下文敏感性（Context Sensitivity）：大模型能够充分利用输入中的上下文信息，根据当前的语境动态地调整自身的行为。
【In-Context Learning】Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?
夏栀的博客
03-28 2126
In-Context Learning（ICL）是最近比较火热的方向，其主要针对超大规模模型（例如1750B参数量的GPT-3模型），在只提供少量标注样本作为提示的前提下，即可以实现很惊艳的效果。本文主要探索In-Context Learning的影响因素有哪些。
In-Context Learning中的示例选择及效果
zenRRan的博客
04-27 861
来自：李rumor进NLP群—>加入NLP交流群一. ICL的背景大型语言模型（LLM）如GPT-3是在大规模的互联网文本数据上训练，以给定的前缀来预测生成下一个token（Next token prediction）。这样简单的训练目标，大规模数据集以及高参数量模型相结合，产生了性能极强的LLM，它可以“理解”任何文本输入，并在其基础上进行“写作”，除此以外，GPT-3的论文发现[1]，...
揭秘In-Context Learning(ICL)：大型语言模型如何通过上下文学习实现少样本高效推理[示例设计、ICL机制详解]
最新发布
丨汀、的博客
06-14 1212
揭秘In-Context Learning(ICL)：大型语言模型如何通过上下文学习实现少样本高效推理[示例设计、ICL机制详解]
被GPT带飞的In-Context Learning发展现状如何？这篇综述梳理明白了
夕小瑶科技说
01-18 966
编｜小舟源｜机器之心来自北京大学、上海 AI Lab 和加州大学圣巴巴拉分校的十位研究者近期发布了一篇关于 in-context learning 的综述论文。随着语言模型和语料库规模的逐渐扩大，大型语言模型（LLM）展现出更多的潜力。近来一些研究表明，LLM 可以使用 in-context learning（ICL）执行一系列复杂任务，例如解决数学推理问题。来自北京大学、上海 AI Lab 和...
可以跟我介绍一下语言模型的in-context learning能力吗？
weixin_35752645的博客
02-15 173
当涉及到语言模型的in-context learning能力时，通常指的是模型从上下文中学习的能力。这种能力使得模型可以根据之前的语境来预测下一个词或一段文本。通过学习上下文中的信息，模型可以更好地理解语言的含义，提高预测的准确性和连贯性。 为了实现in-context learning，模型需要使用先前的语言数据来预测当前的文本，这些数据通常以文本或语音的形式提供。这使得模型能够了解到先前出现的...
读论文Rethinking the Role of Demonstrations What Makes In-Context
03-09
【读论文】Rethinking the Role of Demonstrations What Makes In-Context Learning Work
Tracking/Reporting in e-learning context-开源
07-12
开源项目“Tracking/Reporting in e-learning context”旨在解决这个问题，提供一套完整的解决方案来增强电子学习环境的监控与评估能力。 首先，我们要理解的是“存储（事件持久性）”组件。这个组件负责收集和保存...
Latent visual context learning for web image applications
02-06
Recently, image representation based on bag-of-visual-words (BoW) model has been popularly applied in image and vision domains. In BoW, a visual codebook of visual words is defined, usually by ...
Context_aware Sequential Recommender
01-24
role in modeling user behaviors, various sequential recom- mendation methods have been proposed. Methods based on Markov assumption are widely-used, but independently com- bine several most recent ...
【In-Context Learning】Meta-learning via Language Model In-context Tuning
夏栀的博客
11-28 2440
In-Context Learning是最近比较火热的方向，其主要针对超大规模模型，在只提供少量标注样本作为提示的前提下，即可以实现很惊艳的效果。
实习笔记9-In-Context Learning的可解释性-In-Context Learning Creates Task Vectors
Claire的博客
01-08 435
发表在：EMNLP 2023。
In Context Learning 详解#（转载）
To be a better man
12-18 431
大型语言模型（LM）能够通过对几个输入标签对进行条件调节，并对新的输入进行预测，仅通过推理就可以进行明文学习来执行新的任务。然而，对于模型是如何学习的，以及演示的哪些方面有助于最终任务的性能，人们知之甚少。在这篇论文中表明，事实上，不需要在演示中随机替换标签，这几乎不会影响一系列分类和多choce任务的性能，在包括GPT-3在内的12个不同模型中始终如此。相反发现演示的其他方面是最终任务性能的关键驱动因素，包括它们提供了以下几个例子：（1）标签空间（2）输入文本的分布（3）序列的整体格式。
大语言模型的incontext学习原理与代码实例讲解
禅与计算机程序设计艺术
05-15 1060
1. 背景介绍 1.1 大语言模型的崛起 近年来，随着深度学习技术的快速发展，大语言模型（Large Language Model，LLM）逐渐崭露头角，并在自然语言处理领域取得了令人瞩目的成果。LLM通常拥有数十亿甚至数千亿的参数，能够在海量文本数据上进行训练，从而具备强大的语言理解和生成能力。
LLM：提示学习Prompt Learning
皮皮blog
04-23 5086
Pre-training + Fine-tuning 模式：先在Pre-training阶段通过一个模型在大规模无监督语料上预先训练一个预训练语言模型（Pre-trained Language Model，PLM）（e.g. GPT、EMLO、BERT），然后在Fine-tuning阶段基于训练好的语言模型在具体的下游任务上再次进行微调（Fine-tuning），以获得适应下游任务的模型。缺陷：在大多数的下游任务微调时，下游任务的目标与预训练的目标差距过大导致提升效果不明显，微调过程中依赖大量的监督语料等。
指示学习（Instruct Learning）和提示（Prompt Learning）学习区别
Harry的博客
05-01 3900
指示学习是谷歌Deepmind的Quoc V.Le团队在2021年的一篇名为《Finetuned Language Models Are Zero-Shot Learners》文章中提出的思想。指示学习和提示学习的目的都是去挖掘语言模型本身具备的知识。不同的是Prompt是激发语言模型的。Instruct是激发语言模型的理解能力，它通过给出更明显的指令，让模型去做出正确的行动。指示学习的优点是它经过多任务的微调后，也能够在其他任务上做zero-shot，而提示学习都是针对一个任务的。泛化能力不如指示学习。
让GPT大获成功的in-context learning，其实就是梯度下降？
zenRRan的博客
04-18 1095
来自：圆圆的算法笔记进NLP群—>加入NLP交流群GPT获得巨大成功的重要原因之一，就是其利用的in-context learning能力。利用海量的数据训练GPT这种大型语言模型，对于下游的NLP任务，使用一些示例（demonstration）和提示（prompt），就可以让其为我们产生正确答案。这和传统的pretrain-finetune模式有着巨大差异，in-context learn...
什么是 prompts, completions, tokens and meta-learning /in-context-learning
Harry的博客
04-02 5886
从字面上看，任何文本都可以用作提示——发送一些文本并取回一些文本。然而，尽管了解 GPT-3 对随机字符串的处理方式很有趣，但真正的力量来自于理解如何编写有效的提示。
什么是in-context learning
05-13
In-context learning，即上下文学习，是一种机器学习技术，旨在使机器能够在特定的上下文中理解和处理输入数据。它可以帮助机器更好地理解和处理自然语言、图像、音频等各种数据类型。在上下文学习中，机器会根据...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值