该博客介绍了使用差分进化改进的人工蜂群算法(DEABC)来优化支持向量机(SVM)参数，以提升数据回归预测的精度。SVM理论基础被简述，包括ε线性不敏感损失函数和优化模型。接着，阐述了ABC算法如何应用于SVM参数C和γ的优化，提供了部分Matlab源代码，并提及了2014a版本Matlab的使用。最后，列出了相关参考文献。
⛄一、人工蜂群算法优化支持向量机
1 SVM理论基础
SVM将回归问题转换为二次规划问题,摆脱了容易陷入局部最优的问题,很适合处理小样本回归问题[13]。
SVM利用非线性映射函数φ(x)将作为输入的样本x映射到高维空间H之中,并在H中基于结构风险最小化原则建立高维空间线性回归函数:
f(x)=wφ(x)+b (10)
其中,w为权值向量,且有w∈H;b为偏置,且有b∈R。针对回归拟合问题,引入ε线性不敏感损失函数,在正、负松弛度分别为ξ和ξ*的水平下进行无误差拟合,以回归函数的复杂度和拟合误差之后最小值为目标函数,则优化模型为:
其中,C为非负惩罚因子;S为样本个数。
为求解式(11),引入Lagrange函数,分别对式中各变量进行偏导数求解并置其为0,通过对偶原理将需要求解的问题转化为:
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
