Regression(统计学) 回归;
股票预测,需要一个function,输入以前的数据,输出未来的可能数据
自动驾驶,推荐系统
更加实用的案例,预测宠物小精灵的进化后的CP值(Combat Power),例如预测妙蛙种子的CP值,得到可能进化后更强的宝可梦
f(妙蛙种子的数据)=CP after evolition
step 1:model=a set of function
step 2:goodness of function
model + training data = goodness of function
loss function L:
线性代数或者step 3
step 3:gradient descent
相对调整参数,一次次计算,得到 local值,但是不是gobal值(最优的)
一个参数的时候,计算微分,两个参数,分别计算偏微分,重复上面的过程
linear regression ,the loss function L is convex
no local optimal
the complex model is not the good one(when use testing data may not lead to best one) ----this is overfitting
加入物种的影响
(预测的时候,可能会有很多的未预测到的因素去影响)
back to step 1: redesign the model again
back to step 2: regularization
redesign the loss function
我们更加喜欢平滑一些的function,他会对noise没有那么敏感,但是不能太过于平滑
调整参数调整平滑程度