线性回归算法实验分析

一、线性回归实验目标

　　算法推导过程中已经给出了求解方法，基于最小乘法直接求解，但这并不是机器学习的思想，由此引入了梯度下降方法。

　　实验主要内容：

　　(1)线性回归方程实现

　　(2)梯度下降效果

　　(3)对比不同梯度下降测量

　　(4)建模曲线分析

　　(5)过拟合与欠拟合

　　(6)正则化的作用

　　(7)提前停止策略

二、实验步骤

　　首先准备环境，配置画图参数，过滤警告。

import numpy as np
import os
import warnings
import matplotlib
import matplotlib.pyplot as plt

# 画图参数设置
plt.rcParams['axes.labelsize'] = 14
plt.rcParams['xtick.labelsize'] = 12
plt.rcParams['ytick.labelsize'] = 12

# 过滤警告
warnings.filterwarnings('ignore')

　　构造数据点(样本)：

# 通过rand函数可以返回一个或一组服从“0~1”均匀分布的随机样本值。随机样本取值范围是[0,1)，不包括1
X = 2 * np.random.rand(100, 1)
# 构造线性方程&#x