机器学习1_线性回归梯度下降算法
开始接触机器学习与python,之前研究的普通方法解决原始胎心音的信号处理与计算瞬时心率没有得到理想的结果,所以想通过目前大热的机器学习与深度的方法试一试,不过不知道能不能行,先试着接触一下这些方面的知识。目前的学习资料是吴恩达的机器学习视频还有python的《LearnPython the Hard Way, 3rd Edition》,还有 IanGoodfellow, Yoshua Bengio, Aaron Courville 的《DeepLearning》,李航的《统计学习》,资料也会上传到我的CSDN上。博客基本上写给自己看,督促自己弄出点东西,也适时的总结一下学到的知识,不要马上忘了。
训练模型
在线性回归问题中用监督学习的方法处理,使用梯度下降或者标准方程拟合方程,得到最好的预测结果。
单变量和多变量线性回归
在线性回归中,我们要解决的是一个最小化的问题,关于参数 的最小化,当只包含一个特征/输入变量时,即单变量线性回归问题,表达式可能为:
当包含多个特征/输入变量时,表达式为:
单变量线性回归
设表达式为: ,若设y为目标变量/实际输出变量,则由预测值 ,可得出预测误差: ,即下图右中的蓝色线。
令