PyTorch API
文章平均质量分 94
对 Pytorch 模块进行总结、详解。
Bitterest
阿巴阿巴
展开
-
PyTorch Python API:FX || Intro
FX 是针对 `torch.nn.module` 而开发的工具,其能动态地获取 model 前向传播的执行过程,以便动态地增加、删除、改动、检查运算操作。其由三个主要组件组成:符号追踪器(Symbolic Tracer)、中间表示(Intermediate Representation, IR)和 Python 代码生成。原创 2022-02-24 22:30:23 · 2172 阅读 · 1 评论 -
PyTorch Python API:TorchScript || Intro
TorchScript 是 PyTorch 用来创建可序列化和可优化模型的方法。任何 TorchScript 程序都可以从 Python 进程中保存,然乎再导出到生产环境,加载到没有 Python 依赖项的进程中。TorchScript 的强大,在于它的编译机制: 1. 其作用于一个模型,既能记录模型的参数,又能保存计算图(本质上是编译了 torch.nn.Module 的 forward 函数的计算图)。 2. 其作用于一个函数,既能保存函数的有关参数,又能保存运行逻辑(本质上也还是计算图)。原创 2021-11-15 22:08:44 · 2154 阅读 · 0 评论 -
PyTorch Python API:Quantization || Intro
量化是一种以低于浮点精度的位宽,来执行张量的计算和存储的技术。量化过的模型对部分或全部 Tensor 使用整数,而不是浮点值来执行操作。这允许更紧凑的模型表示,并能在硬件平台上使用高性能 Tensor 运算。需要注意的是,目前 PyTorch 不提供 CUDA 上的量化算子的实现——也即不支持 GPU——量化后的模型将移至 CPU 上运行、测试。但是进行 QAT 时可以在 GPU 上运行。此外,PyTorch 还支持 QAT,该训练使用伪量化模块对前向和后向传递中的量化误差进行建模。原创 2021-11-11 21:31:06 · 2725 阅读 · 1 评论