【09】损失函数与反向传播

最新推荐文章于 2024-05-10 17:35:25 发布
最新推荐文章于 2024-05-10 17:35:25 发布
阅读量1.1k 收藏 1
点赞数 1
分类专栏： June深度学习CV 文章标签： 机器学习 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/cocapop/article/details/129986473
版权

损失函数大致可以分成两类：回归（Regression）和分类（Classification）。

回归模型中的三种损失函数包括：

  1. 均方误差（Mean Square Error，MSE）
  2. 平均绝对误差（Mean Absolute Error，MAE）
  3. Huber Loss。

1. 损失函数

① Loss损失函数一方面计算实际输出和目标之间的差距。

② Loss损失函数另一方面为我们更新输出提供一定的依据。

2. L1loss损失函数

① L1loss数学公式如下图所示，例子如下下图所示。

import torch
from torch.nn import L1Loss
inputs = torch.tensor([1,2,3],dtype=torch.float32)
targets = torch.tensor([1,2,5],dtype=torch.float32)
inputs = torch.reshape(inputs,(1,1,1,3))
targets = torch.reshape(targets,(1,1,1,3))
loss = L1Loss()  # 默认为 maen
result = loss(inputs,targets)
print(result)    #tensor(0.6667)
import torch
from torch.nn import L1Loss
inputs = torch.tensor([1,2,3],dtype=torch.float32)
targets = torch.tensor([1,2,5],dtype=torch.float32)
inputs = torch.reshape(inputs,(1,1,1,3))
targets = torch.reshape(targets,(1,1,1,3))
loss = L1Loss(reduction='sum') # 修改为sum，三个值的差值，然后取和
result = loss(inputs,targets)
print(result)    #tensor(2.)

 3. 均方误差（Mean Square Error，MSE）损失函数

均方误差指的就是模型预测值 f(x) 与样本真实值 y 之间距离平方的平均值。其中，yi 和 f(xi) 分别表示第 i 个样本的真实值和预测值，m 为样本个数。

为简化讨论，忽略下标 i，m = 1，以 y-f(x) 为横坐标，MSE 为纵坐标，绘制其损失函数的图形：

 MSE 曲线的特点是光滑连续、可导，便于使用梯度下降算法，是比较常用的一种损失函数。而且，MSE 随着误差的减小，梯度也在减小，这有利于函数的收敛，即使固定学习因子，函数也能较快取得最小值。

平方误差有个特性，就是当 yi 与 f(xi) 的差值大于 1 时，会增大其误差；当 yi 与 f(xi) 的差值小于 1 时，会减小其误差。这是由平方的特性决定的。也就是说， MSE 会对误差较大（>1）的情况给予更大的惩罚，对误差较小（<1）的情况给予更小的惩罚。从训练的角度来看，模型会更加偏向于惩罚较大的点，赋予其更大的权重。

如果样本中存在离群点，MSE 会给离群点赋予更高的权重，但是却是以牺牲其他正常数据点的预测效果为代价，这最终会降低模型的整体性能。我们来看一下使用 MSE 解决含有离群点的回归模型。

import torch
from torch.nn import L1Loss
from torch import nn
inputs = torch.tensor([1,2,3],dtype=torch.float32)
targets = torch.tensor([1,2,5],dtype=torch.float32)
inputs = torch.reshape(inputs,(1,1,1,3))
targets = torch.reshape(targets,(1,1,1,3))
loss_mse = nn.MSELoss()
result_mse = loss_mse(inputs,targets)
print(result_mse)    #tensor(1.3333)
import numpy as np
import matplotlib.pyplot as plt
x = np.linspace(1, 20, 40)
y = x + [np.random.choice(4) for _ in range(40)]
y[-5:] -= 8
X = np.vstack((np.ones_like(x),x))    # 引入常数项 1
m = X.shape[1]
# 参数初始化
W = np.zeros((1,2))
 
# 迭代训练 
num_iter = 20
lr = 0.01
J = []
for i in range(num_iter):
   y_pred = W.dot(X)
   loss = 1/(2*m) * np.sum((y-y_pred)**2)
   J.append(loss)
   W = W + lr * 1/m * (y-y_pred).dot(X.T)
 
# 作图
y1 = W[0,0] + W[0,1]*1
y2 = W[0,0] + W[0,1]*20
plt.scatter(x, y)
plt.plot([1,20],[y1,y2])
plt.show()

 可见，使用 MSE 损失函数，受离群点的影响较大，虽然样本中只有 5 个离群点，但是拟合的直线还是比较偏向于离群点。这往往是我们不希望看到的。

 4.平均绝对误差（Mean Absolute Error，MAE）

平均绝对误差指的就是模型预测值 f(x) 与样本真实值 y 之间距离的平均值。

为简化讨论，忽略下标 i，m = 1，以 y-f(x) 为横坐标，MAE 为纵坐标，绘制其损失函数的图形

 直观上来看，MAE 的曲线呈 V 字型，连续但在 y-f(x)=0 处不可导，计算机求解导数比较困难。而且 MAE 大部分情况下梯度都是相等的，这意味着即使对于小的损失值，其梯度也是大的。这不利于函数的收敛和模型的学习。

值得一提的是，MAE 相比 MSE 有个优点就是 MAE 对离群点不那么敏感，更有包容性。因为 MAE 计算的是误差 y-f(x) 的绝对值，无论是 y-f(x)>1 还是 y-f(x)<1，没有平方项的作用，惩罚力度都是一样的，所占权重一样。针对 MSE 中的例子，我们来使用 MAE 进行求解，看下拟合直线有什么不同。

X = np.vstack((np.ones_like(x),x))    # 引入常数项 1
m = X.shape[1]
# 参数初始化
W = np.zeros((1,2))
 
# 迭代训练 
num_iter = 20
lr = 0.01
J = []
for i in range(num_iter):
   y_pred = W.dot(X)
   loss = 1/m * np.sum(np.abs(y-y_pred))
   J.append(loss)
   mask = (y-y_pred).copy()
   mask[y-y_pred > 0] = 1
   mask[mask <= 0] = -1
   W = W + lr * 1/m * mask.dot(X.T)
 
# 作图
y1 = W[0,0] + W[0,1]*1
y2 = W[0,0] + W[0,1]*20
plt.scatter(x, y)
plt.plot([1,20],[y1,y2],'r--')
plt.xlabel('x')
plt.ylabel('y')
plt.title('MAE')
plt.show()

显然，使用 MAE 损失函数，受离群点的影响较小，拟合直线能够较好地表征正常数据的分布情况。这一点，MAE 要优于 MSE。二者的对比图如下：

选择 MSE 还是 MAE 呢？

实际应用中，我们应该选择 MSE 还是 MAE 呢？从计算机求解梯度的复杂度来说，MSE 要优于 MAE，而且梯度也是动态变化的，能较快准确达到收敛。

  • 但是从离群点角度来看，如果离群点是实际数据或重要数据，而且是应该被检测到的异常值，那么我们应该使用MSE。
  • 另一方面，离群点仅仅代表数据损坏或者错误采样，无须给予过多关注，那么我们应该选择MAE作为损失。

5.Huber Loss

既然 MSE 和 MAE 各有优点和缺点，那么有没有一种激活函数能同时消除二者的缺点，集合二者的优点呢？答案是有的。Huber Loss 就具备这样的优点，其公式如下：

Huber Loss 是对二者的综合，包含了一个超参数 δ。δ 值的大小决定了 Huber Loss 对 MSE 和 MAE 的侧重性，当 |y−f(x)| ≤ δ 时，变为 MSE；当 |y−f(x)| > δ 时，则变成类似于 MAE，因此 Huber Loss 同时具备了 MSE 和 MAE 的优点，减小了对离群点的敏感度问题，实现了处处可导的功能。

通常来说，超参数 δ 可以通过交叉验证选取最佳值。下面，分别取 δ = 0.1、δ = 10，绘制相应的 Huber Loss，如下图所示：

Huber Loss 在 |y−f(x)| > δ 时，梯度一直近似为 δ，能够保证模型以一个较快的速度更新参数。当 |y−f(x)| ≤ δ 时，梯度逐渐减小，能够保证模型更精确地得到全局最优值。因此，Huber Loss 同时具备了前两种损失函数的优点。

下面，我们用 Huber Loss 来解决同样的例子。

X = np.vstack((np.ones_like(x),x))    # 引入常数项 1
m = X.shape[1]
# 参数初始化
W = np.zeros((1,2))
 
# 迭代训练 
num_iter = 20
lr = 0.01
delta = 2
J = []
for i in range(num_iter):
   y_pred = W.dot(X)
   loss = 1/m * np.sum(np.abs(y-y_pred))
   J.append(loss)
   mask = (y-y_pred).copy()
   mask[y-y_pred > delta] = delta
   mask[mask < -delta] = -delta
   W = W + lr * 1/m * mask.dot(X.T)
 
# 作图
y1 = W[0,0] + W[0,1]*1
y2 = W[0,0] + W[0,1]*20
plt.scatter(x, y)
plt.plot([1,20],[y1,y2],'r--')
plt.xlabel('x')
plt.ylabel('y')
plt.title('MAE')
plt.show()

 可见，使用 Huber Loss 作为激活函数，对离群点仍然有很好的抗干扰性，这一点比 MSE 强。另外，我们把这三种损失函数对应的 Loss 随着迭代次数变化的趋势绘制出来：

 

 

对比发现，MSE 的 Loss 下降得最快，MAE 的 Loss 下降得最慢，Huber Loss 下降速度介于 MSE 和 MAE 之间。也就是说，Huber Loss 弥补了此例中 MAE 的 Loss 下降速度慢的问题，使得优化速度接近 MSE。

 

最后，我们把以上介绍的回归问题中的三种损失函数全部绘制在一张图上。

6.交叉熵损失函数

import torch
from torch.nn import L1Loss
from torch import nn

x = torch.tensor([0.1,0.2,0.3])
y = torch.tensor([1])
x = torch.reshape(x,(1,3)) # 1的 batch_size，有三类
loss_cross = nn.CrossEntropyLoss()
result_cross = loss_cross(x,y)
print(result_cross)    #tensor(1.1019)

 

 搭建神经网络

import torch
import torchvision
from torch import nn 
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

dataset = torchvision.datasets.CIFAR10("./dataset",train=False,transform=torchvision.transforms.ToTensor(),download=True)       
dataloader = DataLoader(dataset, batch_size=1,drop_last=True)

class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()        
        self.model1 = Sequential(
            Conv2d(3,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,64,5,padding=2),
            MaxPool2d(2),
            Flatten(),
            Linear(1024,64),
            Linear(64,10)
        )
        
    def forward(self, x):
        x = self.model1(x)
        return x
    
tudui = Tudui()
for data in dataloader:
    imgs, targets = data
    outputs = tudui(imgs)
    print(outputs)
    print(targets)

  数据集计算损失函数

import torch
import torchvision
from torch import nn 
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

dataset = torchvision.datasets.CIFAR10("./dataset",train=False,transform=torchvision.transforms.ToTensor(),download=True)       
dataloader = DataLoader(dataset, batch_size=64,drop_last=True)

class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()        
        self.model1 = Sequential(
            Conv2d(3,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,64,5,padding=2),
            MaxPool2d(2),
            Flatten(),
            Linear(1024,64),
            Linear(64,10)
        )
        
    def forward(self, x):
        x = self.model1(x)
        return x
    
loss = nn.CrossEntropyLoss() # 交叉熵    
tudui = Tudui()
for data in dataloader:
    imgs, targets = data
    outputs = tudui(imgs)
    result_loss = loss(outputs, targets) # 计算实际输出与目标输出的差距
    print(result_loss)

 损失函数反向传播

反向传播通过梯度来更新参数，使得loss损失最小

 

import torch
import torchvision
from torch import nn 
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

dataset = torchvision.datasets.CIFAR10("./dataset",train=False,transform=torchvision.transforms.ToTensor(),download=True)       
dataloader = DataLoader(dataset, batch_size=64,drop_last=True)

class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()        
        self.model1 = Sequential(
            Conv2d(3,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,32,5,padding=2),
            MaxPool2d(2),
            Conv2d(32,64,5,padding=2),
            MaxPool2d(2),
            Flatten(),
            Linear(1024,64),
            Linear(64,10)
        )
        
    def forward(self, x):
        x = self.model1(x)
        return x
    
loss = nn.CrossEntropyLoss() # 交叉熵    
tudui = Tudui()
for data in dataloader:
    imgs, targets = data
    outputs = tudui(imgs)
    result_loss = loss(outputs, targets) # 计算实际输出与目标输出的差距
    result_loss.backward()  # 计算出来的 loss 值有 backward 方法属性，反向传播来计算每个节点的更新的参数。这里查看网络的属性 grad 梯度属性刚开始没有，反向传播计算出来后才有，后面优化器会利用梯度优化网络参数。      
    print("ok")

 反向传播后出现grad梯度属性，后面优化器会利用梯度来优化网络参数。

 

 

 

cocapop
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深入理解神经网络中的反向传播过程
。
04-20 1092
神经网络目录写在前面神经网络结构神经网络作用神经网络传播过程前向传播1.输入层---->隐含层2.隐含层---->输出层反向传播1.计算总误差2.隐含层---->输出层的权值更新3.隐含层---->隐含层的权值更新总结python实现代码 写在前面 本文转自 作者：Charlotte77 出处：http://www.cnblogs.com/charlotte77/ 最近几天...
优化函数，学习速率，反向传播算法
01-20
反向传播算法是神经网络训练的关键技术，它利用链式法则计算出模型中每个参数对损失函数的偏导数，即梯度。在前馈阶段，数据从输入层通过隐藏层到输出层；在反向传播阶段，从输出层开始计算梯度，并逐层向输入层反向...
损失函数与反向传播
qq_52237775的博客
02-05 4641
损失函数定义与作用 损失函数(loss function)在深度学习领域是用来计算搭建模型预测的输出值和真实值之间的误差。 1.损失函数越小越好 2.计算实际输出与目标之间的差距 3.为更新输出提供依据（反向传播) 常见的损失函数 回归常见的损失函数有：均方差（Mean Squared Error，MSE）、平均绝对误差（Mean Absolute Error Loss，MAE）、Huber Loss是一种将MSE与MAE结合起来，取两者优点的损失函数，也被称作Smooth Mean Absolute Er
PyTorch学习笔记-损失函数与反向传播
一只快乐的小蒟蒻~
11-28 3073
PyTorch学习笔记-损失函数与反向传播。
损失函数及反向传播
最新发布
2303_79419613的博客
05-10 366
损失函数（Loss Function）是用来度量模型预测值与真实标签之间差异的函数。它接受模型的输出和真实标签作为输入，并输出一个数值，该数值表示模型预测的错误程度或差异程度。损失函数通常被设计成非负的，当模型预测值与真实标签完全一致时，损失函数达到最小值。
4.神经网络基础，损失函数，反向传播
阿欢的博客
10-07 849
神经网络是一种很古老的算法，它最初产生的目的是制造能模拟大脑的机器。神经网络是计算量有些偏大的算法。然而大概由于近些年计算机的运行速度变快，才足以真正运行起大规模的神经网络。本文对神经网络的基础概念进行介绍。
Pytorch反向传播(loss.backward)报错原因及解决办法
热门推荐
简简单单的学习笔记，致力于帮助更多前进路上的朋友~
02-06 2万+
RuntimeError: grad can be implicitly created only for scalar outputs 错误原因及其解决办法
LF_BPA_反向传播_
09-30
反向传播算法的核心思想是通过计算损失函数关于权重的梯度，然后更新权重以最小化损失。在神经网络中，这个过程由前向传播（forward pass）和反向传播（backward pass）两部分组成。首先，输入数据通过网络进行前向...
tensorflow 实现自定义梯度反向传播代码
09-18
在某些特定的优化或定制操作中，有时我们需要对某些计算节点的梯度进行自定义，以适应特殊的激活函数或者损失函数。本文将深入探讨如何在 TensorFlow 中实现自定义梯度反向传播的代码。 首先，让我们了解为什么需要...
反向传播：代码演示篇
01-06
反向传播：代码演示篇概述正文1、从零开始2、借助深度学习框架 概述 本节继上一节反向传播：公式推导篇的代码演示，本节将从零开始演示反向传播训练参数的整个过程，除此之外还将使用TF2.0来进行快速求导作为拓展...
深度学习反向传播四大公式详细推导
08-24
深度学习中的反向传播是训练神经网络模型的关键步骤，它涉及到计算损失函数关于网络中所有参数的梯度。本文将详细讲解反向传播的四个核心公式，并通过一个单个样本的推导过程来帮助理解。 首先，反向传播的目标是...
神经网络中的三大概念是：反向传播，梯度下降，损失函数。
公众号：风景邮递Yuan的博客
11-13 1013
初始化、正向计算、损失函数：为我们提供了计算损失的方法、反向传播：把损失值反向传给神经网络的各层，让各层都可以根据损失值反向调整权重、梯度下降：在损失函数基础上向着损失最小的点靠近，从而指引了网络权重调整的方向、重复正向计算过程：直到精度满足要求（比如损失函数值小于 0.001）
损失函数和反向传播
爱学习的小登西的博客
05-09 355
损失函数Loss 1.概念理解 2.官方文档 使用不难，要明白loss是如何计算的需要一定数学功底 （1）L1loss X:1,2,3 Y:1,2,5 L1loss = (0+0+2) / 3 = 0.6 MSE = (0+0+2^2) / 3 = 1.333 import torch from torch.nn import L1Loss inputs = torch.tensor([1, 2, 3], dtype=torch.float32) targets = torch.tensor([1,
【Pytorch】损失函数与反向传播(5)
littlemichelle
06-28 836
注意loss function输入shape和输出shape即可。 import torch from torch.nn import L1Loss from torch import nn inputs = torch.tensor([1, 2, 3], dtype=torch.float32) # float才能进行loss运算 targets = torch.tensor([1, 2, 5], dtype=torch.float32) print("inputs:{}".format(input
深度学习笔记损失函数反向传播理解记录
m0_51495658的博客
11-09 1630
深度学习笔记损失函数反向传播公式理解 从机器学习笔记到深度学习笔记直到深度学习的第三章损失函数的反向传播卡了不少时间，发现卡顿的根本原因是对前边的一些细节符号没有准确记忆和串起来，联系上前文一条一条过终于顺利理解，留些记录免得遗忘。 1.逻辑回归 逻辑回归的公式都比较好理解，深度学习和机器学习笔记都反复提及： 2.神经网络中的损失函数计算 以双层神经网络为例，有一个输入层，一个隐藏层和一个输出层。 ...
Pytorch_6 损失函数、反向传播、torch.optim
qq_28117589的博客
06-21 712
学习目标： 损失函数 损失函数的输入是一个输入的pair: (output, target), 然后计算出一个数值来评估output和target之间的差距大小. 在torch.nn中有若干不同的损失函数可供使用, 比如nn.MSELoss就是通过计算均方差损失来评估输入和目标值之间的差距. 反向传播(backpropagation) 在Pytorch中执行反向传播非常简便, 全部的操作就是loss.backward(). 在执行反向传播之前, 要先将梯度清零, 否则梯度会在不同的批次数据之间被累加。 更新
Tensorflow笔记：反向传播，搭建神经网络的八股,(损失函数loss，均方误差MSE，反向传播训练方法，学习率)
Romantic Chopin in C Sharp Minor
07-10 1168
一、反向传播反向传播：训练模型参数，在所有参数上用梯度下降，使 NN 模型在训练数据上的损失函数最小。 损失函数（loss）：计算得到的预测值 y 与已知答案 y_的差距。 损失函数的计算有很多方法，均方误差 MSE 是比较常用的方法之一。 均方误差 MSE：求前向传播计算结果与已知答案之差的平方再求平均。 用 tensorflow 函数表示为： loss_mse = tf...
神经网络学习基础知识（激活函数，损失函数，前向传播，反向传播等）
myhome908的博客
02-26 2779
1凸函数 对于一元函数f(xf(x)，如果对于任意tϵ[0,1]tϵ[0,1]均满足：f(tx1+(1−t)x2)≤tf(x1)+(1−t)f(x2)f(tx1+(1−t)x2)≤tf(x1)+(1−t)f(x2)，则称f(x)f(x)为凸函数(convex function)。 　如果对于任意tϵ(0,1)tϵ(0,1)均满足：f(tx1+(1−t)x2)&lt;tf(x1)+(1−t)f(...
详解反向传播算法--转自知乎
LucyGill的博客
03-22 2万+
本文转自知乎，作者晓雷。原文链接： https://zhuanlan.zhihu.com/p/25081671 （上篇） https://zhuanlan.zhihu.com/p/25416673 （下篇） 作为数学系妹子，一直在试图弄懂反向传播算法，先后看了数篇论文、博客，以及著名的“西瓜书”，感觉还是不甚清晰。下面的文章讲解得很详细，图把反向传播过程清晰地展现了出来。
损失函数和反向传播什么关系
05-14
损失函数和反向传播是深度学习中非常重要的两个概念，它们之间存在密切的关系。 在深度学习中，我们通常使用损失函数来度量模型预测结果与真实值之间的差距。为了让模型的预测结果更加准确，我们需要最小化损失函数。而反向传播就是一种基于梯度下降的优化算法，它的核心思想是通过计算损失函数对模型参数的梯度，从而更新模型的参数，以使得损失函数最小化。 具体来说，反向传播算法会先计算损失函数对输出层的激活值的偏导数，然后通过链式法则依次计算出每一层的梯度，最终更新模型的参数。因此，损失函数和反向传播是密不可分的，损失函数提供了梯度计算的方向，而反向传播算法则利用这些梯度来更新模型参数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值