【pytorch】总结一下这两天在给网络输出中加入白噪声时遇到的几个BUG

问题一：

RuntimeError: Can't call numpy() on Tensor that requires grad. Use tensor.detach().numpy() instead.

这个错误是因为你在尝试把一个张量和一个numpy数组放在一起进行运算。两个数据类型需要一致才能进行操作。可以像提示的那样，用detach().numpy()来对运算数据先进行类型转换，也可以先把运算搞定以后，直接对结果进行类型转换。

问题二：

runtimeerror: expected scalar type double but found float

这个错误是因为你在训练神经网络时，网络中的数据类型不一致导致的。

1、如果方便的话，考虑把float转换成double。在python中，使用astype()可以变为指定类型的数据，double就是float32

2、也可以在进入训练循环之前运行如下代码：

net = net.float()

这句话将会把你的模型参数转换为浮点类型。如果想用double类型，就是net.double()

然后在训练循环中：

z = net(x.float())

问题三：

runtimeerror: function 'mselossbackward0' returned nan values in its 0th output.

这个问题的原因是因为网络的损失值可能为0，可以通过以下方式来解决：

1、在网络中加入一个极小的偏置。

2、适当减小学习率。

3、损失函数的定义存在问题。

4、尝试减小网络迭代的次数。

这里仅给出加入高斯白噪声的函数，其他内容就不给出咯。

    # 定义高斯白噪声函数
    def generate_gaussian_white_noise(self, length, mean=0, std_dev=1):
        bias = 1e-6                         # 防止产生0输出
        noise = np.random.normal(mean, std_dev, length) + bias
        noise = noise.astype(np.float32)    # 使用astype()可以变为指定类型的数据，double就是float32
        noise = torch.tensor(noise, requires_grad=True)
        return noise