第二章-2.3线性回归学习机

回归问题：根据给定的训练集

    

寻找一个实值函数f(x)，以便用y=f(x)推断出任一模式x所对应的y值。

先研究最简单的情况：

    

线性回归就是寻找一条直线，使训练点x离其最近。

如果超平面y=(w.x)+b满足:

    

则该超平面就是一个硬-带超平面、

求其最优值：

1，平分最近点回归法

得到最近点c、d分别为：

    

      

最后取得

得到划分的超平面，令得到y=(w.x)+b

2，最大间隔回归法

其中

求出最优解，划分出超平面，类似与上面可得y=(w.x)+b