pytorch中自定义反向传播，求导

最新推荐文章于 2024-09-17 17:37:13 发布

xuxiaoyuxuxiaoyu

最新推荐文章于 2024-09-17 17:37:13 发布

阅读量6.3k

点赞数 4

文章标签： pytorch，自定义backward

本文链接：https://blog.csdn.net/xuxiaoyuxuxiaoyu/article/details/86737492

版权

本文介绍了如何在PyTorch中自定义`backward()`函数，以便在图像处理中使用自定义算法时能进行自动求导。关键在于实现`forward()`和`backward()`两个函数。当`requires_grad=True`时，自定义类继承自`torch.autograd.Function`，输出的`grad_fn`会被正确设置。`backward()`函数接收上一级梯度`grad_output`，计算并返回当前层的梯度`grad_input`，在`loss.backward()`时自动调用。

摘要由CSDN通过智能技术生成

pytorch中自定义backward()函数。在图像处理过程中，我们有时候会使用自己定义的算法处理图像，这些算法多是基于numpy或者scipy等包。那么如何将自定义算法的梯度加入到pytorch的计算图中，能使用Loss.backward()操作自动求导并优化呢。下面的代码展示了这个功能`

import torch
import numpy as np
from PIL import Image
from torch.autograd import gradcheck
class Bicubic(torch.autograd.Function):
def basis_function(self, x, a=-1):
    x_abs = np.abs(x)
    if x_abs < 1 and x_abs >= 0:
        y = (a + 2) * np.power(x_abs, 3) - (a + 3) * np.power(x_abs, 2) + 1
    elif x_abs > 1 and x_abs < 2:
        y = a * np.power(x_abs, 3) - 5 * a * np.power(x_abs, 2) + 8 * a * x_abs - 4 * a
    else:
        y = 0
    return y
def bicubic_interpolate(self,data_in, scale=1 / 4, mode='edge'):
    # data_in = data_in.detach().numpy()
    self.grad = np.zeros(data_in.shape,dtype=np.float32)
    obj_shape = (int(data_in.shape[0] * scale), int(data_in.shape[1] * scale), data_in.shape[2])
    data