吴恩达机器学习日记1.绪论-2.单变量线性回归

绪论
Machine learning

1. Supervised Learning 监督学习
   数据集中的每一个样本都有相应的“正确答案”，再根据这些样本作出预测。
   Regression回归模型 预测连续值的属性
   Claassification分类问题 预测一个离散值的输出

2. Unsupervised Learning 无监督学习
   交给算法大量的数据，并让算法从中找出某种结构。
   Clustering algorithm 聚类 仅数据，并不知分类

单变量线性回归
Linear regression with one variable

1. Cost function 代价函数
   平方误差代价函数
   Parameters
   Cost function
   Goal

2. Gradient descent 梯度下降
   
   Learning rate：过小，下降慢；过大，可能发散
   “:=”表示赋值；“=”真假判定
   Simultaneous update 同步更新
   Learning rate fixed：接近局部最小值时，导数趋向于零，幅度自动减小。
   “Batch” Gradient Descent 批量梯度下降
   “Batch”: Each step of gradient descent uses all the training examples.每一步梯度下降都遍历了整个训练集的样本。