SVM,支持向量机(Support Vector Machine)
升维操作,把线性不可分系统变为线性可分的系统。
高维变成低维,线性可分可能变成线性不可分;低维变成高维,不会破坏线性不可分性。
如下图,左图二维线性不可分经过升维操作后,变成右图三维空间的线性可分系统。
仿射变换,形如y=Ax+b,A是对x做的线性变换,b是对变换后的系统加一个位移。
偏置,位移向量b。
BP神经网络与自动控制理论中的反馈之间的区别:
bp输入一个数据,经过隐藏层,输出一个值与期望值之间的误差值,将值反向传播给前一层网络,通过调整参数、权值,来降低误差。随着训练次数增加,误差越来越小,系统得到优化。
而自控中的反馈,是在误差值范围已知的情况下,通过调节输入来使系统稳定在误差允许范围内。
感知机,就是乘积→累加运算→判断大小。