人工智能_02

线性回归

回归分析：根据数据，确定两种或者两种以上的变量间相互依赖的定量关系。

函数表达式：$y=f(x1,x\mathrm{2...}xn)$

回归的分类：

根据变量数进行分类：一元回归、多元回归

根据函数关系进行分类：线性回归、非线性回归

梯度下降方法：

寻找极小值的一种方法。通过向函数上当前点对应梯度（或者是近似梯度）的反方向的规定步长距离进行迭代搜索，直到在极小值处收敛。

常用包：Scikit-Learn

Python语言中专门针对机器学习应用而发展起来的一款开源框架（算法库），可以实现数据预处理、分类、回归、降维、模型选择等常用的机器学习算法。

缺点：不支持python之外的语言，不支持深度学习和强化学习。

pip安装（使用清华镜像源）

pip install scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple

评估模型表现

• 均方误差（MSE）
  $$MSE=\frac{1}{m}\sum _{i=1}^m(y_i^{‘}-y_i{)}^2$$

• R方值（$R^2$）
  $$R^2=1-\frac{{\sum }_{i=1}^m(y_i^{‘}-y_i{)}^2}{{\sum }_{i=1}^m(y_i-\overline{y_i}{)}^2}=1-\frac{MSE}{方差}$$

MSE 越小越好，$R^2$分数约接近1越好。

$y^{‘}$ vs $y$ 集中度越高越好（越接近直线分布）。

• 可视化$y$与$y_{predict}$