利用CVX求线性拟合问题

本文主要是演示一下CVX工具箱的基本用法，用它来求解一个十分简单的线性拟合：$y=Ax+b$问题有点大材小用之嫌。但这毕竟这是一个基础嘛，哈哈！
首先我们用优化的思路来考虑一下这个问题，拟合这条直线其实就是来找一个最合适的$A$和$b$，来使得$min\Vert y-Ax-b\Vert {}_1$，这样就变为了一个十分简单的无约束优化问题。接下来我们用Matlab来实现一下：
1、我们假设待拟合的直线真值为：$y=2x+5$，生成一组数据，同时附加一些在[-0.5,0.5]区间内的随机数作为误差

x = [0 1 2 3 4 5]';
y = [5 7 9 11 13 15]';
y = y + rand(length(x),1) - 0.5;

2、使用CVX工具箱来求这个问题，待优化的变量就是A和b

cvx_begin 
    variable A
    variable b
    minimize( norm( y-(A*x+b)) );
cvx_end

3、绘图来看一下优化结果怎么样

hold on 
plot(x,y,'blue')
plot(x,A*x+b,'red')
legend('True','Optimize')

结果图如下

4、可能现在对结果还是有些不放心，没关系，下面用最小二乘方法来验证一下，原理就不在赘述了，直接上代码

B = [x ones(length(x),1)];
xx = inv(B'*B) * B' * y;
A = xx[1]; b = xx[2]

5、对比一下结果输出，CVX求出的结果：
$$A=1.9249，b=5.2274$$
LSQ方法的结果:
$$A=1.9249，b=5.2274$$
两者的结果是完全一样的，与真值的差距不大，因为毕竟是加了误差嘛，不可能是完全一样的。

PS：由于使用了随机数函数rand，所以每次运行结果不会是完全一样的，这一点不用担心