慕课网—python实现线性回归学习视频总结笔记

视频网址

https://www.imooc.com/learn/972

一、线性回归的数学表示：

将Θ和X都看成方阵，X角标1看做1，则Y=ΘX

二、两种实现线性回归的方法：

1、最小二乘法

但直接计算会产生问题

• 矩阵是否满秩
• 运算性能问题

2、梯度下降

• α表示学习速率（一般为0到1之间）
• J(θ)表示损失函数（即L函数）

三、在python中的应用

1、基本方法

• numpy库
• inv求矩阵的逆
• dot求矩阵的点乘
• mat矩阵

2、实现最小二乘法——线性回归的第一种方法

• 在计算量大时计算机无法承受

3、实现梯度下降——实现线性回归的第二种方法

• 推荐的方法

• numpy.sum()加权求和

4、应用

data.csv文件

结果：