艾克上课打瞌睡,突然感觉脑袋上被砸了一下,然后听见一声咆哮:“艾克!!!还没睡够?!这道题怎么做?答不上来就站出去。”
黑板上写着:
一个苹果换3个梨,2个苹果换6个梨,3个苹果换9个梨,请问4个苹果换几个梨?
艾克睡意昏沉,根本反应不上来,对了,不是有老顽童爷爷的知识芯片吗?
他只好拜托老顽童,老顽童一看,这还不简单?答案几乎脱口而出。但一想,刚刚看了BP神经网络的论文,都说它是万能的,看能不能解决这个嘞。
老顽童想,简单点吧,只用一个神经元,一个输入一个输出。
1. 初始化
苹果是x,梨是y,我假设他们的函数是
y = w x + b y=wx+b y=wx+b
先设置w初始值是1,b的初始值设为0吧。
哈哈,我的训练数据在哪里? x = 1 x=1 x=1时,理想的结果 y ^ = 2 \hat y=2 y^=2.
ok,先看看我的神经网络的输出吧, y = 1 ∗ x + 0 , y = 1 y=1*x+0,y=1 y=1∗x+0,y=1和我的理想输出不相符,误差是多少呢?
这里用最小二乘法计算误差 E = 1 2 ( y ^ − y ) 2 E=\frac{1}{2}(\hat y-y)^2 E=21(y^−y)2
计算得: E = 1 2 ( 2 − 1 ) 2 = 0.5 E=\frac{1}{2}(2-1)^2=0.5 E=21(2