多元线性回归算法python实现_Python实现梯度下降算法求多元线性回归(一)

预备知识及相关文档博客

学习吴恩达机器学习课程笔记，并用python实现算法

python numpy基本教程: numpy相关教程

数据来自于UCI的机器学习数据库: UCI的机器学习数据库

python绘制图形所用包matplotlib文档: matplotlib相关教程

数据计算处理工具pandas相关博客: pandas相关博客

数据介绍

数据介绍: Auto-mpg 汽车性能相关参数:

共有398个样本，以及9个变量，分别是mpg(燃料效率)、cylinders(发动机里的气缸数量)、displacement(发动机的位移)、horsepower(发动机的马力，有缺失值)、weight(汽车的重量)、acceleration(汽车的加速性能)、model year(汽车类型的生产年份)、car name(汽车品牌)等等

梯度下降算法及线性回归算法介绍

回归分析:

数学意义上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，线性回归在这里也不过多解释，这篇文章主要是为了实现算法。在回归分析中，只包括一个自变量和一个因变量，即y=θ0+θ1X称为一元线性回归分析。若是包含多个因变量则是多元线性回归，即y=θ0+θ1X1+θ2X2+…+θnXn。

简单来说就是给你一堆数据，你从几个不同变量中找出它们之间的函数关系，并求出这些匹配不同变量的系数，如θ0，θ1等。

梯度下降算法:

梯度下降法是一种最优化算法，它是用迭代的方法求解目标函数得到最优解，是在cost function(成本函数)的基础上，