PCA使用上图的d'来衡量投影的好坏,使得样本到直线的距离最小。 线性回归使用上图中的d来衡量回归的好坏,使得f(x)-y的平方和最小。 最小二乘法(最小平方法),使得f(x)-y的平方值最小化,线性回归使用的是最小二乘法。