Python实现最小均方算法(lms)

      

     lms算法跟Rosenblatt感知器相比，主要区别就是权值修正方法不一样。lms采用的是批量修正算法，Rosenblatt感知器使用的

是单样本修正算法。两种算法都是单层感知器，也只适用于线性可分的情况。

      详细代码及说明如下：

'''
   算法：最小均方算法(lms)
   均方误差：样本预测输出值与实际输出值之差平方的期望值，记为MES
   设:observed 为样本真值,predicted为样本预测值,则计算公式:
   (转换为容易书写的方式，非数学标准写法,因为数学符号在这里不好写)
   MES=[(observed[0]-pridicted[0])*(observed[0]-pridicted[0])+....
         (observed[n]-pridicted[n])*(observed[n]-pridicted[n])]/n
'''

'''
   变量约定：大写表示矩阵或数组，小写表示数字
   X：表示数组或者矩阵
   x:表示对应数组或矩阵的某个值
'''

'''
     关于学习效率（也叫步长：控制着第n次迭代中作用于权值向量的调节）。(下面的参数a)：
     学习效率过大：收敛速度提高，稳定性降低，即出结果快，但是结果准确性较差
     学习效率过小：稳定性提高，收敛速度降低，即出结果慢，准确性高，耗费资源
     对于学习效率的确定，有专门的算法，这里不做研究。仅仅按照大多数情况下的选择：折中值
'''
import numpy as np
a=0.1  #