prompt工程:提示词工程(使用清晰的提示词,会让大模型的输出更好、也会用prompt进行流程化控制)
检索增加生成:大模型的外挂知识库,能让其更好的回答垂直领域的问题
现有的开发范式:检索增加生成(RAG)、AI Agent
Agent = Model + Memory + Planning + Tools(模型+记忆+规划+工具)
如何调用open AI GPT3&4模型API:1.用open AI库调用,2.requests原生请求
主流prompt工程:1.Few-shot:使用少量例子给LLM做提示词
2.Zero-shot:不使用例子输入,仅使用指令
3.CoT:思维链,让LLM有思考的过程
4.可控生成:用prompt控制LLM生成我们想要的格式方便后期进行解析
word embedding编码:词义相近时,在空间上也相近