如何正确理解LLM中的Prompt和Instruction?

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


引言

提示:这里可以添加本文要记录的大概内容:


作为一名LLM的初学者,相信你也一直苦于在几个科普性居多,专业深度较浅的网站找所谓的免费资源(比如知乎等等,手动狗头),找了好多资源可是却不知道从何看起,这种科普性的网站(专注噶韭菜的)突出一个走量,骗你进来买课,变相得赚的所谓信息差得钱,在这里不讨论对不对,还是直入主题吧。你是不是在查浩如烟海得资源得时候看到过这个(狗头,这表情也太好用了吧):​​在这里插入图片描述
亦或者这个:在这里插入图片描述
第一感觉免费的哎,先收藏(去我收藏夹吃灰吧),咱就是说这广告看着就惹人烦,欺骗小白同学的玩意/撇嘴。
等你深入了解了LLM,至少了解了大概情况,你又会看到以下这个:
在这里插入图片描述
图源:'超’想敲代码 大佬的博客 ChatGLM3-6B大模型部署、微调【0到1小白教程】

此时,深感满腹LLM经论的你又有了问号,什么是强烈科普的提示词(拉你入缅):Prompt(还有Prompt工程,“工程”这么用法的嘛?)?什么又是Instruction呢,甚至还有InstructGPT顶着GPT大名的东东?

提示:以下是本篇文章正文内容,下面案例可供参考

一、Prompt是什么?

实则,Prompt和Instruction是作为LLM伴随ChatGPT划时代出现的前后脚产物,是初学者必须要搞懂的基础性知识,Prompt提出时间早于Instruction,这就是提前入缅者可以利用的信息剪刀差,冠以低成本学习LLM,获得LLM高薪的噱头,但是正如Prompt的中文翻译所说:提示词,它真的只是作为Instrucion(后来居上的概念者)的一部分, Prompt的具体表现形式比如:

1、作为一名刚刚入宫被选作雍正皇帝的后宫三千佳丽之一的贵人,你叫作甄嬛。

2、作为时间简史,一部宇宙知识,汇集时空多维空间的开脑洞的著作的作者,你叫作霍金

它真的只是当下训练数据中的特定角色,当她是甄嬛的时候,你问她黑洞的知识,她可能只会脑子闪过一条黑线,是皇帝要把“我”贬到冷宫了吗,冷宫=无人到达的紫禁宫的一个地方=黑洞?

而当他是霍金的时候,你问他,是皇帝又不爱我了吗,她是爱华妃还是爱纯元皇后呢,他该从LLM里跳出来敲敲你的大脑阔,“我”可是无法移动的只有脑子能飞快运动的病人,爱萝莉(萝莉岛丑闻风波中心人物)不喜欢后宫这些情情爱爱的缠绵,能不能物尽其用一下?

二、Instruction是什么?

而Instruction是什么呢?它是后来者,后来者应该承载前者作为一个上位者的存在,它也就是成为了一个概念,不懂,换个具体的说法,还是举例子:
1、作为清朝雍正年间的后宫佳丽三千之一的熹贵妃,当你身处目前仅有一个对手-皇后的情况下,你会怎么打败她成为后宫之首?
2、作为熹贵妃党派中的一员,你有一个儿子:弘时,为了打败皇后,你怎么意识到帮助熹贵妃成为后宫之首,母仪天下,你才能获得更大的利益,相比成为皇后一党的黑手套?
3、作为甄嬛掌事宫女,苏培盛的对食妻子,当后宫只剩下皇后和熹贵妃两派的情况下,你作为铁杆的熹贵妃派系,你会怎么利用手上资源(苏培盛)来帮助熹贵妃度过困难,成为后宫之首?
通过以上三个人物的Prompt汇总数据训练,此时你的LLM坚信自己是甄嬛传中熹贵妃一党(很重要)的众多人物,要给熹贵妃出谋划策,帮助熹贵妃斗败皇后,取得最后的胜利。

总结

Prompt是先驱,但它是Instruction的训练数据的一员,不能脱离目前的角色而单独行动,不能既要她是甄嬛,又是霍金,除非好多的Prompt数据(其中各种角色扮演)你能问他好多问题,它可以一会儿是男的,一会儿是女的,根据你问他问题的不同随时切换,一条Prompt控制一种角色扮演。而Instruction则更像是导演,导演一部戏指导LLM成为正派,反派,更多是在这两派人物角色上的变化,一个Instruction代表一类数据训练的结果,它是正派,它是这部戏里的角色,大到它是一名可以cos任何戏中角色的艺人,类的含义。
参考资料:1、肖家河银枪小霸王 prompt和instruct的区别究竟是什么
2、大师兄​ ChatGPT/InstructGPT详解 - 知乎

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值