智能体笔记

大模型的开发背景

原理：用户输入——prompt构建——迭代输出——终止符

缺陷：不具备知识出现幻觉（外接知识库）、无法解决复杂逻辑任务（多个大模型协同工作）、不擅长数学运算（外界工具）

现有开发范式：检索增强生成RAG、AI Agent

prompt工程

Few-shot：使用少量例子给LLM作为上提示

Zero-shot：不使用例子输入，仅使用指令

CoT，思维链，让LLM有思考过程

可控生成：是用prompt控制LLM生成我们想要的格式方便后期进行解析

检索增强生成

检索增强生成的核心思想是利用已有的大量文本数据来辅助生成模型生成更加准确和相关的回答。具体来说，当模型需要生成回答时，它会首先检索出与问题相关的文本片段，然后将这些片段作为上下文信息输入到生成模型中，以此来生成更加准确和丰富的回答。

大模型智能体

1. 数据驱动：大模型智能体依赖于大量的数据进行训练，以学习模式和特征。
2. 泛化能力：经过大量数据训练的模型通常具有较强的泛化能力，能够处理未见过的新情况。
3. 多任务学习：许多大模型智能体能够同时在多个任务上表现出色，这称为多任务学习。
4. 深度学习：大模型智能体通常采用深度学习技术，如卷积神经网络（CNN）或循环神经网络（RNN）。
5. 计算资源需求：训练和运行这些模型需要大量的计算资源，包括高性能的GPU或TPU。
6. 可解释性：大模型智能体的决策过程可能不够透明，这在某些应用中可能是一个挑战。
7. 持续学习：为了保持模型的准确性和相关性，需要不断地用新数据进行训练。