- 博客(2)
- 收藏
- 关注
原创 ADALINE网络学习笔记(二)
收敛性分析(LMS算法)LMS算法是使用近似最速下降算法来接近最优解的,他利用了:F(X)=(t(k)−a(k))2=F(X) = (t(k) - a(k))^2 =F(X)=(t(k)−a(k))2=e2(k)e^2(k)e2(k)来代替均方误差的期望,对这个式子求导得:∇F(x)=∇e2(k)\nabla F(x) = \nabla e^2(k)∇F(x)=∇e2(k)=−2e(k)z...
2018-10-29 10:43:38 2437
原创 Widrow-Hoff学习笔记(1)
@TOCAdaline网络与LMS算法 ADALINE网络与感知机网络非常相似,不同之处在于ADALINE的传输函数是线性函数而不是硬限值函数(hard limit)。而且ADALINE网络与感知机网络具有相同的 局限性:只能解决线性可分的问题。但是,ADALINE运用的LMS(最小均方)学习算法,要比感知机学习规则强大。因为感知机学习规则虽然能够保证将网络收敛到正确分类的训练模式的解,但...
2018-10-27 17:46:31 3888
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人