OPEA 介绍

OPEA 介绍

OPEA（Open Platform for Enterprise AI）是Linux基金会数据和AI框架内的生态系统全计划，是一个开放的生成式AI（GenAI，GAI）系统构建平台，旨在加速企业采用 GenAI 实现端到端解决方案并实现业务价值。平台提供了模块化的生成式AI组件，如LLM、数据存储、提示引擎等。它利用整个生态系统中的最佳创新，同时将企业级需求放在首位和中心。

OPEA 简化了企业级复合 GenAI 系统实施的解决方案，首先关注检索增强生成式AI（RAG）。 平台旨在促进安全、将高性能且经济高效的 GenAI 工作流导入业务系统并管理其部署，从而更快地采用 GenAI 并实现商业价值。

OPEA 平台定义包括一个架构蓝图、一组全面的组件 GenAI 系统，以及适用于单个组件和整个系统的一套规范，还包括用于构建、调整和评估端到端 GenAI 工作流的工具，包括：

• 可组合微服务构建块的 GenAI 系统，包括 LLM、数据存储和提示词的引擎
• 检索增强的 GenAI 组件堆栈的架构蓝图、结构和端到端工作流程
• 多种微服务和大型服务，让您的 GenAI 投入生产部署

这些定义将解决关键的方面，例如：性能、功能集、可信度（安全性和透明度）以及为企业级应用程序做好准备。

OPEA 的核心价值观如图：

OPEA 项目架构

OPEA 使用微服务创建高质量的 GenAI 应用程序，简化了生产的扩展和部署过程。 这些微服务利用服务编排将它们组装成一个 MegaServices，从而创建真实的企业 AI 应用程序。

微服务：灵活且可扩展的架构

每个微服务都旨在执行特定的任务。通过分解系统导入到这些较小的、独立的服务中，微服务会促进模块化、灵活性和可扩展性。这种模块化方法允许开发人员独立开发、部署和扩展应用程序，使其更易于维护和随着时间的推移而发展。所有微服务是容器化的，允许云原生部署。

MegaServices：全面的解决方案

MegaServices 是由一个或多个微服务组成。与单个微服务不同，单个微服务专注于特定任务，一个 MegaService 编排多个微服务以交付 全面的解决方案。MegaServices 封装了复杂的业务逻辑和工作流编排，协调各种微服务来满足特定的应用程序要求。这种方法支持创建模块化但集成的应用程序。

网关：对大型和微服务的自定义访问

网关作为用户访问大型服务的接口，可以根据用户要求自定义访问。它充当传入请求，将它们路由到 MegaServices 的功能。

网关支持 API 定义、API 版本控制、限流和请求转换，允许对用户与底层微服务交互。抽象底层基础设施的复杂性，与 Megaservice 交互。

OPEA 的核心组件

熟悉 OPEA 的两个关键要素很重要：GenAIComps 和 GenAIExamples。

• GenAIComps 是微服务组件的集合，构成了基于服务的工具包。这包括各种服务，例如 llm（大型语言模型）、嵌入和重新排名等。
• GenAIExamples 提供实用且可部署的解决方案，以帮助用户有效地实施这些服务。包括 ChatQnA 和 DocSum 等，它们将微服务用于特定应用程序。

这是两个很重要的组件，可以帮助我们快速了解、理解并开发相关的 GenAI 应用程序。

环境安装

GenAIComps 提供了一套微服务，利用服务编排来组装为实际企业 AI 应用程序量身定制的大型服务。要开发 AI 应用，我们首先需要安装它，可以通过以下两种方式进行安装。

• 通过 pip 安装

pip install opea-comps

• 通过源码安装

git clone https://github.com/opea-project/GenAIComps
pip install -e GenAIComps