建模:对要解决的问题进行建模,得到结果与变量的关系式。如y = p0 + p1 *x1+p2*x2(线性模型,p为参数,x为变量)
代价函数(cost function):要得到精确的关系式,就得有个判断标准,什么样的关系式才是精确的。引入代价函数,进行判断。
(其中为当前参数得到的y)
我们算法要做的正是不断降低代价函数,使代价函数不断减少。
要用到的算法正是Gradient Descent:梯度下降算法。
梯度下降算法:http://blog.csdn.net/jj_1995/article/details/78456563