Pytorch的层次结构

本文详细介绍了PyTorch的层次结构,从硬件层开始,包括CPU和GPU的支持,然后深入到内核层的C++和CUDA实现。接着,讨论了低阶API,涉及张量操作、数学运算和动态计算图。中阶API涵盖模型层、损失函数、优化器和数据管道等。最后,概述了高阶API,包括模型构建的不同方法以及训练模型的三种方式。整体上,文章旨在帮助读者理解PyTorch在深度学习中的工作流程。
摘要由CSDN通过智能技术生成
PyTorch层次结构
硬件层
内核层
低阶API
中阶API
高阶API
  • 硬件层:PyTorch支持CPU、GPU等不同硬件加入计算资源池。

  • 内核层:C++或者CUDA实现的内核。

  • 低阶API为Python实现的操作符,提供了封装C++内核的低级API指令,主要包括:

    • 张量结构操作:张量创建,索引切片,维度变换,合并分割
    • 张量数学运算:标量运算,向量运算,矩阵运算,广播机制
    • 动态计算图:Function, forward, backward
  • 中阶API:Python实现的模型组件,对低级API进行了函数封装,主要包括:

    • 模型层
    • 损失函数
    • 优化器
    • 数据管道
    • TensorBoard可视化
  • 高阶API:Python实现的模型接口。

    • 构建模型的3种方法

      • 继承nn.Module基类
      • 使用nn.Sequential
      • 辅助应用模型容器
    • 训练模型的3种方法

      • 脚本风格
      • 函数风格
      • torchkeras.Model风格
  • 5
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值