提示词工程

一、什么是提示词工程

        提示工程也叫指令工程。就是探讨如何设计出最佳提示词，用于指导语言模型都助我们高效完成某项任务。
        Prompt(提示词)即发送给大模型的指令，比如「讲个笑话」、「制定一份哈尔滨三天的旅游攻略」等。
        Prompt是AGl时代的编程语言
        Prompt工程是Al时代的软件工程
        提示工程师是AGI时代的「程序员」

二、Prompt的组成

        Prompt的组成主要包括指令(Instructicn)、输入数据(Input Data)、上下文(Context)以及输出指示器(Output Indicator),这些构成了提示词的核心要素，对于设计有效的AI交互至关重要：

                ·指令：想要模型执行的特定任务或指令。
                ·上下文：包含外部信息或额外的上下文信息，引导语言模型更好地响应：
                ·输入数据：用户输入的内容或问题。
                ·输出指示：指定输出的类型或格式。
        从Prompt的内容和形式，可以将其分为：
                ·零样本提示(Zero-shot prompts):用户仅提供了一个任务描述；
                ·少样本是示(Fcw-shot prompts):用户是供如何完成任务的示例；
        区别本质在于上下文的多寡，上下文越多，得到的回答越准确。

三、思维链（COT）

        2022年Google发布的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》首次提出：通过让大模型逐步参与将一个复杂问题分解为一步一步的子问题并依次进行求解的过程可以显著提升大模型的性能。而这一系列推理的中间步骤就被称为思维链(Chain of Thought)。

四、LTM（Least-To-Most prompting）

        在谷歌大脑提出的CoT被实标验证能够大幅提升人语言模型的推理能力不久，来自谷歌大脑的另·个切队在此上发表了另一篇重量级论文《LEAST-TO-MOST PROMPTING ENABLES COMPLEX REASONING IN LARGE LANGUAGE MODELS》,并在其中提出了一种名为Least-to-Most(LTM)的提示方法，将大语言模理的推理能力进一步提高。

        COT有一个很大的问题，就是那些推理过程都是我们人工书写的，因此他的泛化能力不足，当使用其他问题的时候，我们有需要进行重新人工手写，因此就有了LTM。

        而LTM则是引导大模型逐步思考，将问题进行拆分，即对于这个问题，我们要先分析什么，然后再分析什么，进而逐步引导大模型得出正确答案。

五、自我一致性 Self-Consistency

        总结成一句话就是首先利用COT生成多个推理路径和答案，最终选择答案出现最多的作为最终答案输出。

六、思维树 TOT

        处埋大规模或复杂任务时，将问题或任务分解为一系列子问题或子任务，这些子问题或子任务进一步细化，形成树状结构，从而使得复杂的问题变得容易理解和管理。

七、prompt攻击与防范

        劫持语言模型输出的过程，它允许黑客使模型说出任何他们想要的话。在提示词注入攻击中，攻击者会尝试通过提供包含恶意内容的输入，来操纵语言模型的偷出。