本章节主要讲述的是浅层神经网络。而这一节则是对整个章节的概览
一、神经元
神经网络,神经元连接而成的网络
如图就是一个神经元,可以看出,有输出,有输出,中间经过了一些运算,这将来接下来的blog中进行讨论。
这是一个基于losgitic回归函数的神经元的具体的例子。
二、浅层神经网络
在一个神经网络中,我们把输入称作输入层,输出称作输出层,其余内部的称作隐藏层。
而对于只有一个隐藏层的神经网络我们一般称作浅层神经网络。
同时,我们一般从0开始计数,所以在这个如图所示的神经网络中,输入层就是第0层,隐藏层是第1层,输出层是第2层。
输入输出一般都有很多个,不一定是只有3个1个这样的形式,这里只是举了一个具体的例子。
这里同时约定一个符号标记,对于所有的神经网络中出现的参数,我们对其右上角的角标进行如下规定:
右上角有一个方括号角标,里面表示的是其在神经网络中的层数。
右上角有一个圆括号角标,其代表的是这是第几个训练样本
三、正向传播与反向传播
我们在之前的学习中知道了正向传播和反向传播的概念,这一个神经网络中,这是同样适用的。
因此,原来有关的概念在这里也一样可以拿过来使用。