最小二乘支持向量机——LSSVM

查看原文：http://www.wyblog.cn/2016/11/16/%e6%9c%80%e5%b0%8f%e4%ba%8c%e4%b9%98%e6%94%af%e6%8c%81%e5%90%91%e9%87%8f%e6%9c%ba-lssvm/

写在开头
 
 
 
通过前文分析，可以看到，支持向量机最适合于小样本的学习环境。它的关键在于要找出所有的支持向量，从这些支持向量，就能得出最优分隔超平面了。这一做法让人联想到普通信号的处理。对于一个信号，其结构都是真实信号加上各种噪声。我们在做信号处理时，目的就是为了削弱噪声的影响，从而得出真实的信号值。这样对应起看，支持向量机机与信号滤波似乎有异曲同工之妙。在样本里，除了支持向量的那些点就像是信号里的噪声，支持向量恰对应于信号中的真实成分，支持向量机里寻找最优超平面恰好就是信号处理时要极大化削弱噪声的影响。从搜索的文献来看，已经有很多前辈做了相关工作。本文所讲的最小二乘支持向量机便是一种被最为广泛采用的方法，其对非线性信号的处理有较好的准确度及精度提升。与人工神经网络比，它能克服训练时间长、训练结果存在随机性以及过学习的不足。并且，相关文献提出了一种简化运算的方式，使得效率大大提高。本文主要参考相关文献，对最小二乘支持向量机的基本算法进行总结，分析了模型中各参数对模型精度、复杂度、计算量的影响，以及总结一种能提高模型运算速度及性能的改进算法。