python数据分析与机器学习笔记（五）——线性回归算法（云课堂学习笔记）

机器学习就是，交给机器一大堆数据，然后告诉他怎样的学习策略是对的，即目标函数是什么。求解方式需要一步步优化迭代。使用python工具调库是比较简单的，但算法原理不明白的话，使用会受限，因此理论还是大于实际应用的。以下结合案例重点讲解明白算法原理，需要一定的数学基础。

李宏毅老师对回归的定义：

回归Regression 就是找到一个函数 functionfunction ，通过输入特征 xx，输出一个数值 ScalarScalar

例如：

• 股市预测（Stock market forecast）
  • 输入：过去10年股票的变动、新闻咨询、公司并购咨询等
  • 输出：预测股市明天的平均值
• 自动驾驶（Self-driving Car）
  • 输入：无人车上的各个sensor的数据，例如路况、测出的车距等
  • 输出：方向盘的角度
• 商品推荐（Recommendation）
  • 输入：商品A的特性，商品B的特性
  • 输出：购买商品B的可能性

1.线性回归：最基本的算法，但是同样重要，以下为——案例：银行贷款额度预测

1.1数据

1.2分析

分类：同意贷款或不同意贷款就是分类问题（逻辑回归实际是一个分类）

回归：贷款的额度就是回归问题

本题目为回归为题。该样本集共有5行即5个样本，输入工资、年龄称为特征，标注为x1,x2，输出额度称为标签y，输入与输出之间的关系就是机器学习的核心。找到最好的一个面来拟合数据，

第一步：假设，建立模型（即线性模型）

（其中x0为1，所以在数据预处理的时候，经常添加一个都是1的列，就是为了方便的矩阵计算）