昇思25天学习打卡营第12天|初学入门-静态图加速

昇思25天学习打卡营第12天|初学入门-静态图加速

之前学tf和pytorch时没听过23333

计算图样子:

!

动态图

  1. 在动态图模式中,计算图的构建和计算同时发生(Define by run):如定义了tensor间的计算操作,无需print和赋值就已经计算好了
  2. 动态图可以实时获得中间的结果值,代码结构更像是传统的 Python 编程,可以实现更直观的逻辑控制和数据处理
  3. 动态图允许随时修改计算结构,但不保留先前计算图的结构,即每次输入数据都会生成全新的计算图,没有预定义的结构
  4. 无法进行全局优化(因为动态图无法获取完整的图结构)
  5. 在脚本开发和网络流程调试过程中,推荐使用动态图模式进行调试
    在这里插入图片描述

静态图

  1. 在静态图中,计算图的构建和实际计算分开(Define and run)
  2. 静态图下,用户需声明所有的计算节点,搭建起框架后才能运行,这里的框架起到一个类似编译器的作用
  3. 静态图下, 定义的变量,没有赋值的计算并不持有真实的数据,而是作为占位符存在(如卷积、池化等操作)
  4. 可进行算算子融合、常量折叠等优化
  5. 适用于追求计算效率的部署场景下应用

jit装饰器

实现在动态图模式下,对部分函数和类成员函数采用静态图模式来运行

@ms.jit  # 使用ms.jit装饰器,使被装饰的函数以静态图模式运行
def run(x):
    model = Network()
    return model(x)
//或者
run_with_jit = ms.jit(run)  # 通过调用jit将函数转换为以静态图方式执行
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值