（9-1）模型推理和评估：模型推理

模型推理（Inference）是指在训练完成后，使用训练好的模型对新数据进行预测或生成的过程。模型评估（Evaluation）则是衡量模型在特定任务上性能的过程。在本章的内容中，将详细讲解模型推理和评估的知识，为读者不如本书后面知识的学习打下基础。

9.1  模型推理

模型推理是指使用经过训练的机器学习或深度学习模型来对新数据进行预测、分类、生成等任务的过程。在模型训练完成后，模型需要应用到实际场景中以产生有用的结果。这个过程涉及将模型应用于新数据，并从模型中获取输出，以便做出决策、提供建议或生成内容。

9.1.1  模型推理的步骤

下面是实现模型推理的基本步骤：

（1）加载模型

首先，需要将已训练的模型加载到内存中。这通常涉及加载模型的权重、架构和其他必要的参数。