ModaHub魔搭社区：详解GPTCache 系统的五个主要组件

目录

LLM 适配器（LLM Adapter）

Embedding 生成器（Embedding Generator）

缓存管理器（Cache Manager）

相似性评估器 （Similarity Evaluator）

后期处理器（Post Processors）

---

所以整个 GPTCache 系统共包含五个主要组件：

LLM 适配器（LLM Adapter）

适配器将 LLM 请求转换为缓存协议，并将缓存结果转换为 LLM 响应。由于想让 GPTCache 变得更加透明（这样用户无需额外研发，便可将其轻松集成到我们的系统或其他基于 ChatGPT 搭建的系统中），所以适配器应该方便轻松集成所有 LLM，并可灵活扩展，从而在未来集成更多的多模态模型。

目前，我们已经完成了 OpenAI 和 LangChain 的适配器。未来，GPTCache 的接口还能进一步扩展，以接入更多 LLM API。

Embedding 生成器（E