PaddlePaddle Serving 开源项目使用教程

PaddlePaddle Serving 开源项目使用教程

ServingA flexible, high-performance carrier for machine learning models（『飞桨』服务化部署框架）项目地址:https://gitcode.com/gh_mirrors/serv/Serving

1. 项目的目录结构及介绍

PaddlePaddle Serving 项目的目录结构如下：

PaddlePaddle/Serving/
├── README.md
├── docs/
├── python/
│   ├── setup.py
│   ├── paddle_serving_server/
│   ├── paddle_serving_client/
│   └── paddle_serving_app/
├── go/
│   ├── README.md
│   ├── cmd/
│   └── pkg/
├── examples/
│   ├── simple_web_service/
│   └── imagenet_web_service/
└── tools/
    ├── docker/
    └── script/

目录结构介绍

• README.md: 项目的主文档，包含项目的基本介绍和使用说明。
• docs/: 包含项目的详细文档和教程。
• python/: 包含 Python 相关的服务端和客户端代码。
  • paddle_serving_server/: 服务端代码。
  • paddle_serving_client/: 客户端代码。
  • paddle_serving_app/: 应用相关的代码。
• go/: 包含 Go 语言相关的代码。
  • cmd/: 命令行工具代码。
  • pkg/: 库代码。
• examples/: 包含示例代码，如简单的 Web 服务和 ImageNet 服务。
• tools/: 包含一些工具和脚本，如 Docker 镜像构建脚本。

2. 项目的启动文件介绍

PaddlePaddle Serving 的启动文件主要位于 python/paddle_serving_server/ 目录下。以下是一些关键的启动文件：

• web_service.py: 用于启动 Web 服务的脚本。
• rpc_service.py: 用于启动 RPC 服务的脚本。

启动文件介绍

• web_service.py:

  • 功能：启动一个 Web 服务，用于接收 HTTP 请求并返回预测结果。
  • 使用方法：通过命令行运行 python web_service.py 启动服务。

• rpc_service.py:

  • 功能：启动一个 RPC 服务，用于接收 RPC 请求并返回预测结果。
  • 使用方法：通过命令行运行 python rpc_service.py 启动服务。

3. 项目的配置文件介绍

PaddlePaddle Serving 的配置文件主要位于 python/paddle_serving_server/ 目录下。以下是一些关键的配置文件：

• config.yml: 服务的基本配置文件。
• model_config.yml: 模型的配置文件。

配置文件介绍

• config.yml:

  • 功能：包含服务的基本配置，如端口号、日志级别等。
  • 示例内容：

    server:
      port: 9393
      log_level: INFO
    

• model_config.yml:

  • 功能：包含模型的配置，如模型路径、输入输出配置等。
  • 示例内容：

    model:
      path: /path/to/model
      input:
        - name: input_1
          shape: [1, 3, 224, 224]
      output:
        - name: output_1
          shape: [1, 1000]
    

通过以上配置文件，可以灵活地配置和启动 PaddlePaddle Serving 服务。

ServingA flexible, high-performance carrier for machine learning models（『飞桨』服务化部署框架）项目地址:https://gitcode.com/gh_mirrors/serv/Serving