还是要打牢基础吧,再做做机器学习最基本的方法和技术。这个练习是线性回归,来自Andrew Ng的 机器学习课程http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=MachineLearning&doc=exercises/ex2/ex2.html。
线性回归是有监督的学习方法,给定一些训练数据,我们要找到数据中存在的规律,线性回归就是假定存在一条直线能够拟合训练数据,这样再给新的数据时,就可以用训练好的回归模型来对新数据作出预测。线性回归实质上式对输入样本的特征进行线性组合的结果,就是对输入的线性表达。
假设给定训练数据,训练数据输入用X表示,输出用Y表示。
用平方损失函数计算回归模型与真实值的误差:
模型h就是线性模型,参数为theta。要求出最优的theta能使损失最小,就是使预测值尽量接近真实值。可以采用梯度下降算法来找出这样的theta。对于这个最小二乘问题&#x