大模型相关笔记整理

1.客服类Prompt英文简写

语音识别ASR -> 语言理解NLU -> 状态跟踪DST -> 检索候选(DB/API) -> 对话策略Policy -> 语言生成NLG -> 语音合成TTS

2.prompt,要把大模型当人看，要了解大模型。prompt要举例。

3.一切问题先尝试用 prompt 解决，往往有四两拨千斤的效果

4.将垂直知识加入 prompt，以使其准确回答

5.用例子实现统一口径

6.大模型应用架构师想什么？

怎样能更准确？答：让更多的环节可控

怎样能更省钱？答：减少 prompt 长度，每个tonken都要花钱，prompt越长，花钱越多。

怎样让系统简单好维护？

7.教程里面部署了ruby。

8.思维链的原理

让 AI 生成更多相关的内容，构成更丰富的「上文」，从而提升「下文」正确的概率

对涉及计算和逻辑推理等复杂问题，尤为有效

9.Langchain 是一套工具链。接口经常变动，迭代速度快。chain是封装一系列功能集合。

他是封装了各种模型接口，