prompt 工程

六大类别,包括:

  • 情境学习(In-Context Learning, ICL)
  • 零样本提示(Zero-Shot)
  • 思维生成(Thought Generation)
  • 分解(Decomposition)
  • 集成(Ensembling)
  • 自我批评(Self-Criticism)

meta-prompt(元提示)

参考文献

解决问题的主要思路:

1. 将复杂的任务或问题分解成更小的容易解决的子任务;

2. 使用适当且详细的自然语言指令将这些子任务分配给专业的「专家」模型;

3. 监督这些专家模型之间的通信;

4. 通过这个过程应用其自己的批判性思维、推理和验证技能。

主要贡献点:

meta-prompting 贴近agent思路,组合并扩展了近期研究提出的多种不同的 prompting 思想,包括高层级规划和决策、动态人设分配、多智能体辩论、自我调试和自我反思。

具体实现细节:

对于可使用 meta-prompting 有效调用的语言模型,当对其进行查询时,该模型的作用是作为指挥员(conductor)。它会输出一组消息历史(或者称为叙述(narrative)),其由多个专家模型的响应构成。这个语言模型首先会负责生成消息历史中的指挥员部分,这其中包括专家的选取以及为它们构建特定的指令。但是,同一个语言模型本身也会作为独立专家,其会基于专业知识以及指挥员为每条具体查询选取的信息生成输出。

这种方法可让单个统一的语言模型维持连贯一致的推理路线,同时还可以利用各种不同的专家角色。通过动态地为 prompting 选择上下文,这些专家能为该过程引入全新的视角,同时指挥员模型还能保持对完整历史的鸟瞰视角并维持协调。

因此,这种方法能让单个黑箱语言模型既有效作为中心指挥员,同时又充当一系列不同专家,这样便可以得到更加准确、可靠和连贯一致的响应。

这里新提出的 meta-prompting 技术组合并扩展了近期研究提出的多种不同的 prompting 思想,包括高层级规划和决策、动态人设分配、多智能体辩论、自我调试和自我反思。

meta-prompting 的一个关键方面是其具有一个性质:不受具体任务影响。

传统的脚手架方法需要针对每个任务调整具体的指令或示例,而 meta-prompting 则不同,其在多种任务和输入上都采用了同一套高层级指令。对怕麻烦的用户来说,这种通用性尤其有益,因为这样就不必为每个具体任务提供详细的示例或具体指示了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值