基于大模型的提示工程应用(初学)

本文详细介绍了提示工程,一种基于模板的自然语言生成技术,包括其工作原理、基础模式(如特定指令、代理模式和示例模式)、进阶模式(零样本、少样本和思维链提示),以及关键的NLP技术如分词、词向量和预训练模型的应用。
摘要由CSDN通过智能技术生成

1、提示工程的基本工作原理

提示技术是一种基于模板的自然语言生成技术,需要控制自然语言处理(Natural Language Processing,NLP)模型的输出。

基本的工作流程:

(1)设计提示语

(2)预处理数据

(3)提供输入数据和提示语

(4)生成输出文本

(5)调整模型参数

2、提示的基础模式

2.1 特定指令

通过提供一些特定信息来引导模型生成与这些信息相关的文本。

(1)文本分类指令模板

输入一段文本,让模型输出它所属的类别

(2)机器翻译指令模板

(3)情感分析指令模板

(4)文本生成指令模板

(5)问题回答指令模板(其实和文本生成类似)

(6)命名实体识别指令模板

(7)关系抽取指令模板

(8)摘要生成指令模板

2.2 指令模板

具有指导性的文本生成模型,通过我们需要的具体指令,生成符合我们需要的文本。

(1)格式提取指令模板

(2)文件格式转换

(3)代码转换

2.3 代理模式

注重文本生成的情景和具体性,帮助用户掌握和理解不同身份、角色与对象的语言风格和文化习惯。

(1)电商客服

(2)程序员

2.4 示例模式

根据用户提供的示例文本,来生成符合用户需求的文本内容。

3、提示的进阶模式

3.1 零样本模式

在向模型提出一个新的问题时,通过零样本提示来推测可能需要的答案,需要添加一些特定的标记、短语和关键词,以指定任务类型或条件。

3.2 少样本提示

使用少量的样本启用上下文学习,在零样本模式表现不佳的情况下,帮助模型输出我们想要的内容。

3.3 思维链提示

Chain of Thought,CoT,是一种用于提高大语言模型推理能力的创新性技术,推过提示模型生成一系列推理步骤来解决多步骤的问题。

总的来说就是给出一个逻辑性较强且有较为复杂场景的文本,亦或是需要理性推理,亦或是需要情感判断,从而一步步地引导模型给出我们想要的答案。

4、自然语言处理

这本身就是个比较复杂的问题,如果能够清楚地理解计算机是如何处理计算机语言的,相当于一定程度可以把大模型的这个黑盒打开,一定程度上看到一些白盒的内容,这篇文章就不做展开了。

仅列出自然语言处理的几个关键技术

(1)分词,即把一段自然语言文本看作一个个基本的语言单元

(2)关键字提取,从一篇文本中提取出最具有代表性的关键词,用于概括文本的主题和内容

(3)摘要提取,从一篇文章中提取出最具代表性的内容,用于快速了解文章的主题还有内容

模型通过“词向量”(word vector),也称之为“词嵌入”(word embedding),将单词转换为向量表示的技术。分别迭代出了如下集中使用方式:

(1)独热表示,将每个单词表示成1个独立的向量,比如apple即[1, 0, 0, 0, 0, 0, 0, 0, 0, 0],缺点是无法体现出词语之间的关联还有相似程度

(2)LSA,基于共现矩阵的词向量表示方法,可参考如下链接

一篇比较明白的共现矩阵解读_champion_ldl的博客-CSDN博客

 简而言之,会先对文本进行分词,然后从前往后判断,根据窗口移动后的中心词变化,计算其他的词和中心词同时出现的此处,每多一次就会在中心词和该词正交的位置加一。

(3)Word2Vec,这个没太看懂不说

(4)预训练模型,ELMo和BERT都是基于标注数据基础上的预训练模型

(5)相似度和类比性,相似度用来衡量两个词向量之间的相似程度,类比性则用来衡量词向量在推理任务上的表现

5、使用大模型辅助工作内容输出

5.1 输出PPT

可以考虑先让模型生成1个Markdown格式的PPT大纲,再拿着这份文档到MINDSHOW这样的网站中生成具体的PPT

5.2 输出思维导图

同PPT,先设计Markdown的大纲,再转换成思维导图

5.3 画流程图

同上。

5.4 输出图像、视频

这个我不专业。。。不发表评论

5.5 输出代码

告诉模型你的业务需求,并指定编程语言和一些需要的写法,得到你想要的代码

5.6 解释代码

很好理解,对新手极其友好,Ctrl+V一段代码进去让模型尝试解释便可。

5.7 修改代码

自动补全代码!还有检查代码段的语法错误,不得不说,codegeeX的自动补全代码真的好用

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值