机器学习笔记：线性回归

线性回归

概括而言，线性模型就是对输入特征加权求和，再加上一个我们称为偏置项(也称为截距项)的常数。

线性回归公式：

向量化：

回归模型的MSE成本函数：

标准方程

求解成本函数最小的参数的解方法:

代码示例

import numpy as np

X = 2 * np.random.rand(100, 1)
y = 4 + 3 * X + np.random.randn(100, 1)

# 使用sklearn的函数来获取MNIST数据集
from sklearn.datasets import fetch_openml
import numpy as np
import os
# to make this notebook's output stable across runs
np.random.seed(42)
# To plot pretty figures
%matplotlib inline
import matplotlib as mpl
import matplotlib.pyplot as plt
mpl.rc('axes', labelsize=14)
mpl.rc('xtick', labelsize=12)
mpl.rc('ytick', labelsize=12)

plt.plot(X, y