-Regresstion: 机器学习要找一个function,而regression 找的function ouput 是一个scalar .
应用举例:
- stock market forcast
- self - driving car
- Recommendation
machine learning 三个步骤:
- step1:Model
模型就是一组function set,以宝可梦为例,设计线性模型
若是多变量线性模型,则表示为:
- step2:Goodness of function
首先要收集训练资料,这些训练资料告诉机器说这个function input 和 ouput的对应关系。
定义并建立Loss function L:
用以衡量Model 里面function好坏。
L(f)是由w,b决定,写作成:
- step3:Best function
- 选择最好的模型就是当Loss 最小的时候参数w和b的值
找一个最好的function,可以看做是优化问题,我们要找一个f,这个f可以让Loos function的值 minimize,这个可以写作f*,而这个f*是有w,b决定的。
- 两种优化问题:
解析解(Pass) :线性代数解法只合适线性模型.
Gradient D