pytorch_quantization量化工具使用简记

pytorch_quantization 是 NVIDIA 开发的，是一个用于量化 PyTorch 模型的工具库，它支持多种量化方案，包括量化感知训练（Quantization Aware Training，QAT）和后训练量化（Post-Training Quantization，PTQ）。它与 TensorRT 有很好的集成，可以方便地将量化后的 PyTorch 模型转换为 TensorRT Engine，从而在 NVIDIA GPU 上进行高效推理。

(1) 基本使用

以下是 pytorch_quantization 库的基本使用步骤和特点：

1. 环境配置：确保你的 PyTorch 环境已经安装，并且与 pytorch_quantization 兼容。

2. 安装：使用 pip 安装 pytorch_quantization 库。可能需要从 NVIDIA 的官方源安装以确保兼容性。

pip install pytorch-quantization --extra-index-url