本文重点:
本节课程将学习神经网络的代价函数
损失函数:计算的是一个样本的误差
代价函数:是整个训练集上所有样本误差的平均
目标函数:代价函数 + 正则化项
符号:
神经网络的训练集样本有m个,每个训练样本包含一组输入x和一组输出信号y,L表示神经网络总层数,Sl表示第l层的神经元的个数,这其中不包括偏差单元,SL代表神经网络输出层的单元个数。
神经网络:二类分类和多类分类
二分类:只有一个输出单元,SL =1,y= 0or 1表示哪一类
多分类:有k个输出单元, SL= k, (K > 2)