机器学习之一（读书笔记）

• Regression
• Gradient Descent

一、绪论

机器学习就是找函式。
寻找函式的方法----Gradient Descent
15个知识点。

1. Regression：输出一个数值
   
2. Binary Classification：输出值只有Y或N

3. Multi-class Classification：输出值在很多个中选一个

4. Generation：生成

5.Supervised Learning：给机器有label的资料

5. Unsupervised Learning：给机器无label的资料
6. Reinforcement Learning：Reward

7. Transfer Learning：训练集和数据集不一样也能生成

8. 函式的Loss：评判一个函式的好坏

9.

二、Regression（回归）

  task：预测PM2.5；预测股票系统；预测自动车；推荐系统；预测出的结果应该是一个数值。
  以宝可梦为例（根据十只宝可梦预测CP值）：

Step1:Model
$y=b+w\cdot x_{cp}$
=>Linear model:
$y=b+\sum w_i{x}_i$
其中，$x_i$:input feature（各种不同的属性）；
$w_i$:weight；b：bias

Step2:Goodness of Function
$y=b+w\cdot x_{cp}$
用$x^n$表示第n个object，$y{\hat{}}^n$表示第n个output。

输出是一个数值。
  Loss function L：衡量函式多不好，它的input：function；
  output：how bad it is.
        $L(f)=L(w,b)$
$$=\sum _{n=1}^{10}({\hat{y}}^n$$