pyTorch、Tensorflow和Paddle fluid的重点概念模块对应梳理记录

本文概述了PaddlePaddle框架中的动态图模式,与PyTorch和TensorFlow在多维数组、神经网络层、模型构建、优化器等关键方面的对比,以及分布式训练和可视化工具的差异。
摘要由CSDN通过智能技术生成

一、更新日志

  • 3月16 日添加了fluid.dygraph.Layer

      fluid.dygraph.Layer 是 PaddlePaddle 框架中
      用于定义动态图模式下神经网络层的一个基类。
      在 PaddlePaddle 的动态图模式下,
      用户可以灵活地构建和训练神经网络。
    

二、对比表

概念\框架pytorchtensorflow(as tf)paddle(fluid)
1、多维数组(张量、变量)torch.Tensortf.Tensorpaddle.Tensor或fluid.Variable
2、神经网络层torch.nntf.keras.layerspaddle.nn或fluid.Layer或fluid.dygraph.Layer(更通用的动态图执行)
3、模型构建torch.nn.Module和nn.Sequentialtf.keras.Model和tf.keras.Sequentialpaddle.nn.layer或类似的结构
4、有序容器nn.Sequentialtf.keras.Sequentialfluid.Sequential
5、优化器torch.optimtf.optimizerspaddle.optimizer或fluid.optimizer
6、数据集torch.utils.data.DataLoader 和 torchvision.transformstf.data.Dataset 和 tf.keras.preprocessing 模块paddle.io.DataLoader或fluid.io.DataLoader
7、训练循环和控制流手动编写训练循环,使用 torch.autograd 进行梯度计算使用 tf.function 和 tf.GradientTape 进行自动微分和训练循环提供了自动微分功能 ,paddle.grad()
8、保存和加载模型torch.save()和torch.load()tf.saved_model.save()和tf.saved_model.load()(或tf.keras.models.save_model()与tf.keras.models.load_model())paddle.save()和paddle.load()
9、分布式训练torch.distributedtf.distribute.Strategypaddle.distributed
10、可视化和调试可以使用TensorBoard或可通过torch.utils.tensorboard模块内置TensorBoard支持提供PaddleVisual工具
11、量化torch.quantizationtf.lite和tfmot.quantizationpaddle.inference.PaddlePredictor
  • 9
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值