机器学习入门-1

监督学习

监督学习：首先用输入x和正确答案的例子（标签y）训练模型，在模型从这些输入、输出或x和y对中学习之后，就可以通过输入的新的x预测新的y

• 两种主要的监督学习算法：回归算法 分类算法

• 回归算法：预测房价

• 分类算法：检测是否患肿瘤

无监督学习

无监督学习：不带标签地获取数据，并尝试将它们自动分组到群集中（数据只带有输入X而不输出标签Y)

• 聚类算法：j将相似的点聚类在一起 聚类遗传DNA数据

• 异常检测

• 降维

线性回归模型

x: 输入特征

y：目标变量

w,b: 模型的参数

• 如何表示模型？

•  

   

代价函数

如何表示：

 

平方误差代价函数

m=训练样例数

 

目标

 

总述：

 

代价函数的可视化：等高线图（最接近等高线图中心的是最好的参数选择）

梯度下降

梯度下降是一种算法 可以用来最小化任何函数

如何实现

更新

如何选取正确的学习率

 

越接近局部最小值，采取越小的学习率

如何计算

批量梯度下降：在梯度下降的每一步，都用所有的training examples