PyTorch 深度学习框架 torch、torchvision、libtorch 库，以及将 PyTorch 模型导出为 TorchScript（.ts 文件）

没有余地 EliasJie

已于 2024-05-16 19:03:48 修改

阅读量1k

点赞数 20

分类专栏：人工智能文章标签：深度学习 pytorch 人工智能

于 2024-03-27 17:50:22 首次发布

本文链接：https://blog.csdn.net/Seciss/article/details/136847049

版权

人工智能专栏收录该内容

2 篇文章 0 订阅

订阅专栏

记录

Pytorch是什么
CUDA和cuDNN
torch 和 torchvision
- torch 和 torchvision 是 PyTorch 深度学习框架提供的两个重要库：
libtorch
TorchScript是什么
- TorchScript的主要作用包括：
PyTorch 模型导出为 TorchScript

仅供本人记录查阅使用

Ubuntu20.04下CUDA、cuDNN的详细安装与配置过程（图文）
Ubuntu搭建深度学习环境 Python-Cmake-Libtorch-Torchvision-PCL-VTK-OpenCV

Pytorch是什么

PyTorch是一个开源的深度学习框架，由Facebook的人工智能研究团队开发和维护。PyTorch提供了灵活而高效的工具，使研究人员和开发者能够构建和训练各种深度学习模型。

PyTorch的主要特点包括：

动态计算图：PyTorch使用动态计算图，使得模型的构建更加灵活和直观，同时方便调试和可视化。
强大的GPU加速支持：PyTorch能够充分利用GPU的并行计算能力，加速深度学习模型的训练和推断。
丰富的工具和库：PyTorch提供了各种用于构建神经网络、处理数据、优化模型等任务的工具和库。
社区支持：PyTorch拥有庞大的社区，提供了丰富的教程、文档和示例代码，方便用户学习和使用。

PyTorch在深度学习领域得到了广泛的应用，特别是在学术界和研究领域。它支持动态计算图、自动微分等功能，使得用户能够更轻松地实现复杂的神经网络结构和训练过程。希望这个简介对您有帮助。如果您有任何其他问题，请随时告诉我。

CUDA和cuDNN

CUDA（Compute Unified Device Architecture）是由NVIDIA推出的并行计算平台和编程模型，用于利用NVIDIA GPU的并行计算能力。CUDA使开发人员能够使用标准C语言来编写GPU加速的应用程序，从而实现更快的计算速度和更高的性能。

cuDNN（CUDA Deep Neural Network library）是NVIDIA提供的用于深度学习的GPU加速库，为深度神经网络的训练和推断提供了高性能的实现。cuDNN包含了一系列针对深度学习任务优化的GPU加速函数和算法，能够显著提高深度学习框架（如TensorFlow、PyTorch等）在NVIDIA GPU上的性能。

总的来说，CUDA是一种并行计算平台和编程模型，cuDNN是NVIDIA提供的用于深度学习的GPU加速库。它们共同为开发人员提供了利用NVIDIA GPU强大计算能力的工具和库，加速了深度学习应用程序的训练和推断过程。
CUDA（Compute Unified Device Architecture）是由NVIDIA推出的并行计算平台和编程模型，用于利用NVIDIA GPU的并行计算能力。CUDA使开发人员能够使用标准C语言来编写GPU加速的应用程序，从而实现更快的计算速度和更高的性能。

总的来说，CUDA是一种并行计算平台和编程模型，cuDNN是NVIDIA提供的用于深度学习的GPU加速库。它们共同为开发人员提供了利用NVIDIA GPU强大计算能力的工具和库，加速了深度学习应用程序的训练和推断过程。

PASCAL VOC（Visual Object Classes）数据集，这是一个广泛用于目标检测和图像分类任务的标记数据集。PASCAL VOC数据集最初由英国牛津大学的计算机视觉研究组创建，旨在推动目标检测算法的发展和比较。

PASCAL VOC数据集包含大量的图像，每个图像都标记了不同类别的物体，并提供了这些物体的边界框位置信息。常见的类别包括人、车、动物等。PASCAL VOC数据集通常被用于训练和测试目标检测算法，如YOLO、Faster R-CNN等。

PASCAL VOC数据集通常分为训练集、验证集和测试集，用于训练模型、调整超参数以及评估模型性能。研究人员和开发者可以使用PASCAL VOC数据集来开发和改进他们的目标检测算法，并将其性能与其他算法进行比较。

总的来说，PASCAL VOC训练集是一个常用的用于目标检测任务的标记数据集，为研究人员和开发者提供了一个标准的基准来评估他们的算法在目标检测任务上的表现。

torch 和 torchvision

torch 和 torchvision 是 PyTorch 深度学习框架提供的两个重要库：

torch: torch 库是 PyTorch 的核心库，提供了张量操作、神经网络构建、自动微分等功能。主要功能包括：
- 张量操作：提供了张量（多维数组）的创建、操作和运算，支持 GPU 加速计算。
- 神经网络构建：包括各种类型的神经网络层、激活函数和优化器，方便用户构建和训练神经网络模型。
- 自动微分：PyTorch 的自动微分引擎可以自动计算张量的梯度，支持反向传播算法进行模型训练。
torchvision: torchvision 库是 PyTorch 的计算机视觉库，提供了一系列用于图像处理和计算机视觉任务的工具和数据集。主要功能包括：
- 数据加载：提供了常用的图像数据集（如 ImageNet、CIFAR-10 等）的加载和预处理功能。
- 图像变换：包括各种图像变换操作，如裁剪、缩放、旋转等，用于数据增强和预处理。
- 模型库：包含了一些经典的计算机视觉模型（如 ResNet、AlexNet 等），方便用户进行图像分类、目标检测等任务。

综合来说， torch 提供了深度学习框架的核心功能，而 torchvision 则是专注于图像处理和计算机视觉任务的扩展库。这两个库结合起来可以帮助用户更轻松地构建和训练深度学习模型，并在计算机视觉任务中取得良好的表现。

libtorch

libtorch 是 PyTorch 的 C++ 前端库，用于在 C++ 环境中使用 PyTorch 的功能。 libtorch 提供了 C++ 接口，使开发人员可以在不同的 C++ 应用程序中集成 PyTorch 的功能，包括张量操作、神经网络构建、模型训练和推理等。通过 libtorch ，用户可以在 C++ 项目中利用 PyTorch 的强大功能，而无需依赖 Python 环境。
libtorch下载

TorchScript是什么

TorchScript是PyTorch的静态图表示形式，它允许用户将动态定义的PyTorch模型转换为静态图，以便进行模型的序列化、优化和跨平台部署。通过TorchScript，用户可以将PyTorch模型转换为一种更加高效、可移植和优化的表示形式。

TorchScript的主要作用包括：

模型序列化和持久化：将PyTorch模型转换为TorchScript形式后，可以将其序列化保存为文件，以便在不同环境中加载和使用。
模型优化：TorchScript可以对模型进行静态图优化和JIT（即时编译）编译，提高模型的性能和效率。
跨平台部署：通过TorchScript，可以在没有Python环境的情况下加载和运行PyTorch模型，适用于移动端、嵌入式设备或其他不支持Python的场景。
模型保护：TorchScript可以保护模型的结构和参数，避免泄露模型的知识产权。

PyTorch 模型导出为 TorchScript

1. 将 PyTorch 模型导出为 TorchScript（.ts 文件）的作用有几点：

模型序列化和持久化：导出 TorchScript 可以将 PyTorch 模型序列化为一个文件，使其在不同环境中得以保存和加载，方便模型的部署和共享。
跨平台部署：TorchScript 提供了跨平台的模型部署能力，可以在没有 Python 环境的情况下运行模型，这对于移动端、嵌入式设备或其他不支持 Python 的环境非常有用。
性能优化：TorchScript 可以对模型进行优化，提高模型的性能，例如通过静态图优化、JIT 编译等方式，使模型在推理阶段更高效。
模型保护：通过导出 TorchScript，可以保护模型的知识产权，避免模型结构和参数被轻易泄露。

2. .ts 文件是 TorchScript 的文件格式，用于存储经过 TorchScript 脚本化（scripted）的 PyTorch 模型。

TorchScript 是 PyTorch 的静态图表示形式，它将动态定义的 PyTorch 模型转换为静态图，以便进行模型的序列化、优化和跨平台部署。

作用包括：

模型序列化和持久化：.ts 文件可以保存经过 TorchScript 脚本化的 PyTorch 模型，以便在不同环境中加载和使用。
跨平台部署：通过 .ts 文件，可以在没有 Python 环境的情况下加载和运行 PyTorch 模型，适用于移动端、嵌入式设备或其他不支持 Python 的场景。
性能优化：TorchScript 可以对模型进行静态图优化和 JIT 编译，提高模型的性能和效率。
模型保护：通过 .ts 文件，可以保护模型的结构和参数，避免泄露模型的知识产权。

3. 要将 PyTorch 模型导出为 TorchScript（.ts 文件），您可以按照以下步骤进行操作：

将 PyTorch 模型转换为 TorchScript：
使用 torch.jit.script 方法将 PyTorch 模型转换为 TorchScript。例如，对于模型 model ，可以执行以下操作：

import torch 
#加载已训练的PyTorch模型 
model = torch.load('model.pt') 
# 将模型转换为torchScript格式 
script_model = torch.jit.script(model)

保存 TorchScript 模型为 .ts 文件：使用 torch.jit.save 方法将 TorchScript 模型保存为 .ts 文件。例如，将 TorchScript 模型 script_model 保存为 model.ts 文件：

import torch 
#加载已训练的PyTorch模型 
model = torch.load('model.pt') 
# 将模型转换为torchScript格式 
script_model = torch.jit.script(model) 
#保存torchScript模型 
torch.jit.save(script_model,'model.ts')