最小二乘双子支持向量机的改进(Improved LSTSVM)

最小二乘双子支持向量机的改进(Improved LSTSVM)


LSTSVM是利用经验风险最小化原理构造的,因此它存在过拟合问题。以下方法针对此问题做出了改进。(改进方式类似于TBSVM,关于TBSVM请看我的其他文章)

Linear improved LSTSVM

对于线性可分的数据样本,改进的LSTSVM如下:
在这里插入图片描述
上述方程式中的附加项是用来测量两个超平面的间距的。分离度越大,泛化能力越强。将等式约束代入目标函数,可以得到如下优化问题:
在这里插入图片描述

Non-linear improved LSTSVM

利用核函数将改进的LSTSVM扩展到非线性可分数据样本。针对非线性数据样本的改进LSTSVM如下:
在这里插入图片描述
进一步可以得到:
在这里插入图片描述
进行如下替换:
在这里插入图片描述
得到:
在这里插入图片描述
新数据点的分类公式为:
在这里插入图片描述

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
改进支持向量机Improved Support Vector Machine)是对传统支持向量机算法的改进和优化。常用的改进支持向量机算法包括以下几种: 1. 软间隔支持向量机(Soft Margin SVM):传统的支持向量机算法要求数据集是线性可分的,但在实际应用中,数据往往存在一定的噪声和异常点。软间隔支持向量机通过引入松弛变量,允许部分样本点出现在间隔带内,从而提高模型的鲁棒性和泛化能力。 2. 核函数支持向量机(Kernel SVM):传统的支持向量机算法只能处理线性可分问题,而核函数支持向量机通过引入核函数,将样本映射到高维特征空间中,从而实现非线性分类。常用的核函数包括线性核、多项式核、高斯核等。 3. 多类别支持向量机(Multiclass SVM):传统的支持向量机算法只能处理二分类问题,而多类别支持向量机通过一对多或一对一的策略,将多类别问题转化为多个二分类问题进行处理。 4. 增量式支持向量机(Incremental SVM):传统的支持向量机算法需要重新训练整个模型,当新样本加入时效率较低。增量式支持向量机通过在原有模型的基础上进行增量学习,只需更新部分参数,从而提高了训练效率。 5. 多核支持向量机(Multiple Kernel SVM):传统的支持向量机算法只使用单一的核函数,而多核支持向量机通过组合多个核函数,综合考虑不同特征的重要性,提高了模型的分类性能。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值