监督学习
监督学习:首先用输入x和正确答案的例子(标签y)训练模型,在模型从这些输入、输出或x和y对中学习之后,就可以通过输入的新的x预测新的y
-
两种主要的监督学习算法:回归算法 分类算法
-
回归算法:预测房价
-
分类算法:检测是否患肿瘤
无监督学习
无监督学习:不带标签地获取数据,并尝试将它们自动分组到群集中(数据只带有输入X而不输出标签Y)
-
聚类算法:j将相似的点聚类在一起 聚类遗传DNA数据
-
异常检测
-
降维
线性回归模型
x: 输入特征
y:目标变量
w,b: 模型的参数
-
如何表示模型?
-
代价函数
如何表示:
平方误差代价函数
m=训练样例数
目标
总述:
代价函数的可视化:等高线图(最接近等高线图中心的是最好的参数选择)
梯度下降
梯度下降是一种算法 可以用来最小化任何函数
如何实现
更新
如何选取正确的学习率
越接近局部最小值,采取越小的学习率
如何计算
批量梯度下降:在梯度下降的每一步,都用所有的training examples