第四章 神经网络的学习

该篇博客介绍了神经网络的学习过程,包括从数据中学习权重参数,详细阐述了mini-batch学习的原理和实际操作,以及在大量数据中如何通过梯度法寻找最优参数。此外,还讨论了基于测试数据的评价标准,如epoch的概念。
摘要由CSDN通过智能技术生成

4.1 从数据中学习

  • 从数据中学习,是指可以由数据自动决定权重参数的值。

4.2.3 mini-batch学习

为什么使用mini-batch:
当数据很多很多时,一次性计算全部数据的损失函数是很漫长且不现实的。因此,从中挑选出一部分,作为全部数据的“近似”。

从代码中看具体流程:

    1. 假设总共有10000个数据,batch_size设置为500,总共训练80伦
    1. 训练中的每一轮,从10000个数据中随机挑选出500数据,用于训练

4.4 梯度

使用定义计算梯度。

def numerical_gradient(f, x):
	h = 1e-4
	g
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值