机器学习： 线性回归正则化

x = [-0.99768  -0.69574 -0.40373-0.10236   0.22024   0.47742   0.82229]' 对其进行拟合

y= [ 2.08850   1.16460   0.32870   0.46013   0.44808   0.10013  -0.32952]'

正则化表达式

正规方程解法（此方程直接求出代价最小的theta组合）：

   n为特征个数

拟合过程：

结果可以使用polyfit（x,y,'最高次'）拟合成曲线，这里只是进行了折现连接

 x = load('ex5Linx.dat');
 y = load('ex5Liny.dat');
 m = length(x);
 x = [ones(m, 1), x, x.^2, x.^3, x.^4, x.^5];
 n = 5
 matrix = eye(n+1);
 matrix(1,1) = 0;
	
for i = 1:length(lab)
 A = inv(x'*x+lab(i)*matrix);
 theta = A*x'*y
figure;
plot(x(:,2),x*theta,'o--','MarkerFaceColor', 'r','MarkerSize',8)
print dpng 'linerReg.png'
%a = sprintf('%s%d.png','lab = ',lab(i));
legend('Training data')
 end

上图是lab = 10的结果

lab（兰布达）取不同值会产生不同的拟合效果

lab = 0时候 就是没有进行正则化 如上图

参考：点击打开链接