TensorFlow利用自动微分技术进行求导，该方法结合了符号和数值求导的特点，主要基于链式法则。在TensorFlow的math_grad.py文件中定义了基本操作的符号导数，通过RegisterGradient装饰器处理每个操作的梯度。这一过程涉及对操作级应用链式法则，保存中间梯度。
原理：
TensorFlow使用的求导方法称为自动微分（Automatic Differentiation），它既不是符号求导也不是数值求导，而类似于将两者结合的产物。最基本的原理就是链式法则，关键思想是在基本操作（op）的水平上应用符号求导，并保持中间结果（grad）。基本操作的符号求导定义在\tensorflow\python\ops\math_grad.py文件中，这个文件中的所有函数都用RegisterGradient装饰器包装了起来，这些函数都接受两个参数op和grad，参数op是操作，第二个参数是grad是之前的梯度。
链式求导代码：
举个例子：
最低0.47元/天 解锁文章
114
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
