使用MindSpore进行一阶导数计算

最新推荐文章于 2022-11-11 09:52:23 发布

xiao | yang

最新推荐文章于 2022-11-11 09:52:23 发布

阅读量821

点赞数

文章标签：深度学习神经网络

本文链接：https://blog.csdn.net/xi_xiyu/article/details/118446931

版权

本文详细介绍了如何使用MindSpore的GradOperation算子进行一阶导数计算，通过实例展示了对MatMul算子构成的网络的输入求导，并解释了参数get_all、get_by_list和sens_param的作用。同时，给出了对多个输入求导的方法。

摘要由CSDN通过智能技术生成

MindSpore计算一阶导数方法mindspore.ops.GradOperation (get_all=False, get_by_list=False, sens_param=False)。

MindSpore计算一阶导数方法mindspore.ops.GradOperation (get_all=False, get_by_list=False, sens_param=False)，其中get_all为False时，只会对第一个输入求导，为True时，会对所有输入求导；get_by_list为False时，不会对权重求导，为True时，会对权重求导；sens_param对网络的输出值做缩放以改变最终梯度。下面用MatMul算子的求导做深入分析。
首先导入本文档需要的模块和接口，如下所示：

import numpy as np

import mindspore.nn as nn

import mindspore.ops as ops

from mindspore import Tensor

from mindspore import ParameterTuple, Parameter

from mindspore import dtype as mstype
对输入求一阶导

如果需要对输入进行求导，首先需要定义一个需要求导的网络，以一个由MatMul算子构成的网络f(x,y)=z∗x∗yf(x,y)=z∗x∗y为例。

定义网络结构如下：

class Net(nn.Cell):

def __init__(self):

super(Net, self).__init__()

self.matmul