神经网络 ANN
新年啦!先给自己一个小小的改变,比如写一篇博客。
再给自己一个小目标,比如3天内徒手写个ANN~~
所以,以下内容是在3天的时间内学到的,未免有不足之处,望指教。
0.ANN缘由
ANN不是一下子就可以被发明出来的,期间经过了几代人的努力才慢慢成型(参考【1】)
从单个神经元讲起。
一个神经元其实很笨,它可以有多个输入,但只有一种输出,模型如下:
上图中,a1,a2,a3是输入,Z是输出,中间w1,w2,w3是可调参数(权值)
它们之间的关系是写定的:Z=g(a1*w1+a2*w2+a3*w3)
这里,Z=g(x),g(x)一般为sigmoid函数
激活函数activation function,sigmoid函数 y=