解构复合人工智能系统（Compound AI Systems）：关键术语、理论、思路、实践经验

01 什么是 compound AI systems ？
最近，伯克利大学（Berkeley）的研究人员撰写了一篇文章《The Shift from Models to Compound AI Systems》，他们在这篇文章中梳理了 LLM apps 的发展进程，并强调complex pipelines 具备不断发展和演化的特性，这些 pipelines 由多个组件共同协作来构建智能系统（intelligent systems），而非依赖于某一个闭源模型。虽然最终的 compound AI systems 可能使用的底层模型（如 GPT4）相同，但是根据不同的具体提示词（prompting）和上下文（context），系统中的各个组件可能会被视为是不同的组件。

Compound AI systems 在现实场景的一些常见落地部署模式如下：

RAG（检索（retrieval）和理解（understanding）至关重要 —— 具有模拟人类思维过程或根据先前的学习产生新的想法、根据逻辑、规则或先前的知识进行推理和分析、阅读相关背景信息的能力，他们可以 self-reflect （译者注：分析自己的运行方式、决策过程或者与用户交互的方式，并据此进行调整或改进）并尝试通过分析语境、推理、模式识别等方式理解用户的意图，并作出相应的模型响应或行为。在这种情境下，最理想的配置或解决方案是使用 Agent Assist System 。 （译者注：利用人工智能技术，如自然语言处理、推荐算法等，来分析和理解用户的需求，并根据这些需求为用户提供帮助。）当与面向用户的模型/系统（如对话模型）结合使用时