这一关主要着重提示词内容的使用,这一块浦语提出了LangGPT的提示词优化方法, 简单在此介绍下LangGPT提示词的优化方法:
1. LangGPT提示词方法论:这是一个标准的标准的模块化的结构化提示词方法,以尽可能结构化人机对话和任务完成的提示词为目标,在此之下提示词包含模块-内部元素两级,模块表示要求或提示LLM的方面,例如:背景信息、建议、约束等。内部元素为模块的组成部分,是归属某一方面的具体要求或辅助信息。实践和个人理解,提示词的能力提升与模型参数呈现着类似Gartner的Hypercicle 的趋势
模型初期提示词的作用很小,尤其在2B的时候对指令的理解能力很弱,这个时候提示词的改变并不能有多大的提升;在50B-70B区间,模型能力和提示词结合可以很好起到提升作用;在千亿级别左右提示词依然能很好提升模型能力,但是提升作用不会太大,因为在较低的提示词下模型依然能够很好回答问题;
2. 对于解决理解小数点 “3.8<3.11”的LangGPT提示词设置
这个是采用提示词之前的大小比较,明显模型是无法判断其大小。
核心点在于提示词示例中提供了一种思路方法,即将小数位转化为同位小数,通过直接比较小数位大小来判断,这样来调整其理解小数位大小比较,同时以数学教授的角色提示词来细心回答数学相关问题,这一点能够很好地理解用户的指令和意图。
采用了该提示词之后,能够正确地比较5.7 和 5.32大小,并且指出了70 > 32,这个方式在之前的对比中都是无法实现的,因而证明了提示词的重要性。