深度学习入门——损失函数——均方误差

  • 损失函数(loss function)可以为任意函数,常用的是均方误差和交叉熵误差
  • 损失函数:最优参数解的参考指标,希望它越小越好
  • 用于评价神经网络的性能“恶劣程度”,当前神经网络对监督数据(训练数据)在多大程度上不拟合,不一致

均方误差(mean squared error)
在这里插入图片描述
yk:神经网络的输出
tk:监督数据(训练数据)

mean_squared_error.py

# oding: utf-8

# 损失函数之均方误差
import numpy as np


def mean_squared_error(y, t):
    return 0.5 * np.sum((y - t) ** 2)


# 手写数字识别MNIST
t = [0, 0, 1, 0, 0, 0, 0, 0, 0, 0] # 设置“2”为正确解,监督数据
y = [0.1, 0.05, 0.6, 0.0, 0.05, 0.1, 0.0, 0.1, 0.0, 0.0] # softmax输出激活函数故可以理解为概率,设置‘2’为最高概率
print(mean_squared_error(np.array(y), np.array(t))) # 0.09750000000000003 损失函数值很低


y = [0.1, 0.05, 0.1, 0.0, 0.05, 0.1, 0.0, 0.6, 0.0, 0.0] # 设置‘7’为最高概率的情况为(0.6)
print(mean_squared_error(np.array(y), np.array(t))) # 0.5975 损失函数值很高
  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值