![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
非平行支持向量机
文章平均质量分 54
Luff_
这个作者很懒,什么都没留下…
展开
-
TWSVM存在的问题
twsvm的3个优点:1.由一个大的二次规划问题拆成两个小的二次规划问题,训练速度大约提升了四倍。2.利用二次损失函数,TWSVM充分考虑了类中的先验信息,对噪声不太敏感。3.TWSVM对于二维数据的预测非常有用。1.在TWSVM的原始问题中,只有经验风险被最小化,不像标准SVM中,同时最小化结构风险和经验风险。2.为了避免奇异矩阵的问题,引入了一个小的误差,无法获得最优解,只能获得近似解。3.虽然TWSVM解决了两个较小的QP,但在训练模型之前,需要计算逆矩阵。 因此,TWSVM的计算.原创 2021-04-20 19:17:51 · 624 阅读 · 1 评论 -
加权最小二乘双子支持向量机(WLSTSVM)
加权最小二乘双子支持向量机(WLSTSVM)加权最小二乘支持向量机(WLSSVM)线性 WLSTSVM非线性WLSTSVM加权最小二乘支持向量机(WLSSVM)WLSSVM是对最小二乘支持向量机的增强(LSSVM其他人有很多优秀的文章,这里不再介绍),其优化为题如下:vi为权重参数,它由下式所决定:其中的s_hat 为:s_hat表示估计误差分布偏离高斯分布的程度。IQR为四分位距,MAD是中位数绝对偏差。通常常数J1和J2分别选择为2.5和3。关于LSTSVM前文已有介绍,下面为W原创 2021-01-10 11:33:15 · 1224 阅读 · 0 评论 -
最小二乘双子支持向量机的改进(Improved LSTSVM)
Improved LSTSVMLinear improved LSTSVMNon-linear improved LSTSVMLSTSVM是利用经验风险最小化原理构造的,因此它存在过拟合问题。以下方法针对此问题做出了改进。Linear improved LSTSVM对于线性可分的数据样本,改进的LSTSVM如下:上述方程式中的附加项是用来测量两个超平面的间距的。分离度越大,泛化能力越强。将等式约束代入目标函数,可以得到如下优化问题:Non-linear improved LSTSVM利用核函原创 2021-01-08 10:53:18 · 571 阅读 · 0 评论 -
最小二乘双子支持向量机(LSTSVM)
最小二乘双子支持向量机(LSTSVM)线性 LSTSVM非线性 LSTSVMLSTSVM不是求解一对复杂的QPPs,而是通过求解两个线性方程生成两个非平行超平面。线性 LSTSVM线性LSTSVM的优化问题为:简化可得:得到线性LSTSVM的决策函数为:距离哪个决策平面更近就分为哪类。非线性 LSTSVMLSTSVM也使用核函数对非线性可分的数据样本进行分类。将非线性LSTSVM的优化问题表述为:简化得到:将高维空间中的超平面表示为:新数据样本按以下公式分类:...原创 2021-01-07 12:01:50 · 1156 阅读 · 0 评论 -
非平行支持向量机梳理(TWSVM系列)
GEPSVM https://blog.csdn.net/LIUGXIN/article/details/112132081TWSVM https://blog.csdn.net/LIUGXIN/article/details/112132369TBSVM https://blog.csdn.net/LIUGXIN/article/details/112142453文章持续更新中……原创 2021-01-05 13:27:43 · 718 阅读 · 0 评论 -
孪生有界支持向量机(TBSVM)
孪生有界支持向量机(TBSVM)简介线性TBSVM简介Yuan-Hai Shao等人提出了一种改进的TWSVM,也称为孪生有界支持向量机(Twin bound Support vector Machine, TBSVM)。使用逐次超松驰(SOR)技术,针对优化问题,以提高训练过程的速度,还应用了结构风险最小化原则,在计算时间和分类精度方面,TBSVM比TWSVM更优秀。线性TBSVM与TWSVM一样,TBSVM也是寻找两个非平行的决策超平面来判别数据。目标函数与约束条件如下所示。...原创 2021-01-04 15:08:26 · 1939 阅读 · 20 评论 -
广义特征支持向量机( GEPSVM)
广义特征支持向量机( GEPSVM)这里有属于类1和-1的样本点,分别由矩阵A和B来表示,用m1和m2来分别表示两个类别的数目,因此矩阵A和B分别为(m1 x n)和(m2 x n)。GEPSVM的目的就是为了获得两个不平行的决策超平面,如下:从而使平面与1类和-1类数据点之间的欧氏距离分别最小。引出了以下优化问题:这里的e是一个适当维度的单位向量,|| ||为L2范数。此式默认(w,b)不等于0,Bw+eb不等于0。简化上式得到:优化问题可以通过引入Tikhonov regulariz原创 2021-01-03 10:52:50 · 1253 阅读 · 4 评论 -
孪生双子支持向量机(TWSVM)
孪生双子支持向量机(TWSVM)孪生双子支持向量机与广义特征支持向量类似都是求取两个非平行的超平面来分离数据。(广义特征支持向量机https://blog.csdn.net/LIUGXIN/article/details/112132081)但是他们在本质上是不同的。TWSVM对中的两个二次规划问题都有一个典型的SVM公式。通过求解以下公式得到TWSVM分类器二次规划问题:这里的c1、c2 为常数且 c1、c2 > 0,e1、e2为合适维度的单位向量。该算法找到两个超平面,每一类对应一个超原创 2021-01-03 16:20:14 · 6753 阅读 · 12 评论