深度学习基础7(正反向传播,计算图,自动微分,分离计算,控制流梯度计算)

开始之前,补充一个关于梯度的图,方便记忆输入输出的形状

ND3(C`TK37)_}@9H(6$FIGF

计算图

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5EAx5t85-1648204128476)(C:\Users\Lenovo\Documents\Tencent Files\850604703\FileRecv\MobileFile\Image)]VUT570@(9]KPE8(WQ})XQT.png)

自动求导的两种模式

正向积累

  • 存储中间结果

反向积累(又叫反向传递)

  • 去除不需要的枝

KSWSMIH1OIHLTU$FI80PD

关于复杂度:

)ZU~}1MW48YBP9OR

自动微分

深度学习框架通过自动计算导数,即自动微分(automatic differentiation)来加快求导。

实际中,根据我们设计的模型,系统会构建一个***计算图***(computational graph), 来跟踪计算是哪些数据通过哪些操作组合起来产生输出。

自动微分使系统能够随后反向传播梯度。

这里,反向传播(backpropagate)意味着跟踪整个计算图,填充关于每个参数的偏导数。

一个简单的例子

假设想对函数𝑦=2𝐱⊤𝐱关于列向量𝐱求导。 首先,创建变量x并为其分配一个初始值。

import torch

x = torch.arange(4.0)
x

tensor([0., 1., 2., 3.])

在我们计算𝑦关于𝐱的梯度之前,我们需要一个地方来存储梯度。

重要的是,我们不会在每次对一个参数求导时都分配新的内存。 因为我们经常会成千上万次地更新相同的参数,每次都分配新的内存可能很快就会将内存耗尽。

注意,一个标量函数关于向量𝐱的梯度是向量,并且与𝐱具有相同的形状。


                
  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
椭球大地测量学是地球形状和尺寸的测量学,贝塞尔大地问题是其中的一个重要问题,涉及到了大地测量中的反解计算。现在我们利用matlab实现贝塞尔大地问题的反解计算编程,并且画出程序的流程。 首先,我们需要明确贝塞尔大地问题的反解计算的公式和流程。在计算中,我们需要根据给定的起始点经纬度、方位角和距离,计算出终点的经纬度;而在反解计算中,我们需要根据给定的起始点经纬度和终点经纬度,计算出方位角和距离。这涉及到了一系列的三角函数和椭球参数的计算。 接着,我们使用matlab编程,首先编写计算和反解计算的函数。在计算函数中,输入起始点经纬度、方位角和距离,输出终点的经纬度;在反解计算函数中,输入起始点经纬度和终点经纬度,输出方位角和距离。然后,我们可以编写一个主函数,用于输入输出数据,并调用计算和反解计算的函数。 最后,我们画出程序的流程,清晰地展示了整个计算的流程和数据传递的路径。流程可以帮助我们更好地理解整个程序的运行逻辑,并且方便我们进行程序的调试和优化。 通过以上步骤,我们成功地利用matlab实现了贝塞尔大地问题的反解计算编程,并且画出了程序的流程,这将有助于我们更深入地理解椭球大地测量学中的贝塞尔大地问题。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

NDNPOMDFLR

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值