matlab 多元多项式回归_人工智能算法-线性回归算法

阶段概述：

本阶段讲解，多元线性回归，梯度下降法，归一化，正则化，Lasso 回归，Ridge 回归，多 项式回归

达成目标：

通过本阶段学习，从推导出多元线性回归算法的损失函数，到实现开发和应用算法，再到对 算法从数据预处理上，以及损失函数上的优化都将整体彻底掌握。对后面学习更多算法，甚 至深度学习都将起到举一反三的效果。

实战教学项目：

• 代码实现梯度下降求解多元线性回归
• 保险花销预测案例

多元线性回归

• 简单线性回归
• 最优解与最小二乘法
• 多元线性回归判别式
• 多元线性回归的数学假设
• 利用 MLE 推导出目标函数
• 对数似然推导出 MSE 损失函数
• MSE 求偏导得到参数解析解
• 多元线性回归的 python 代码实现
• 多元线性回归的 sklearn 代码实战

梯度下降法

• 梯度下降法原理与公式
• 学习率设置的学问
• GD 应用于多元线性回归的流程
• 全量梯度下降的原理与代码实现
• 随机梯度下降的原理与代码实现
• Mini-Batch 梯度下降的原理与代码实现
• 代码实现增加 MBGD 数据的随机性
• 代码实现动态调整学习率

归一化

• 归一化目的与量纲
• 归一化提高模型精度
• 最大值最小值归一化与缺点
• 方差归一化与好处
• 均值归一化与好处
• 标准归一化的代码实战与技巧

正则化

• 提高泛化能力与防止过拟合
• 正则化用于损失函数
• L1 与 L2 正则项与范数的关系
• 结合 GD 讲解 L1L2 的几何意义
• 透过导函数讲解 L1 的稀疏性
• 透过导函数讲解 L2 的平滑性

Lasso 回归、Ridge 回归、多项式回归

• Lasso 回归原理与代码实战
• Ridge 回归原理与代码实战
• ElasticNet 回归原理与代码实战
• 升维的意义
• 多项式回归进行升维原理
• 多项式升维代码实战

知乎视频​www.zhihu.com