问题
在优化问题中,有一种常见的问题:已知样本集合,求拟合直线。拟合直线的一个选取原则是使样本点到拟合直线的距离最短。这里就是研究在 n n n维样本点 [ x 1 , x 2 , . . . , x n ] [x_1,x_2,...,x_n] [x1,x2,...,xn]到 n n n维直线的距离。我采用向量研究这个问题,向量在多维情形下易于理解。
解答
二维向量
先考虑二维向量的情形,即二维平面的的点 A ( x 0 , y 0 ) A(x_0,y_0) A(x0,y0)到直线 l : 0 = w 1 x + w 2 y + b l:0=w_1x+w_2y+b l:0=w1x+w2y+b的距离.原点 O ( 0 , 0 ) O(0,0) O(0,0),所以向量 O A = ( x 0 , y 0 ) OA=(x_0,y_0) OA=(x0,y0),如果把OA沿直线