Regression
什么是回归?
这里主要记录线性回归linear regression,定义即有若干变量(x1,x2,x3……),通过组合这些变量,可以求得一个函数模型f(x)=k1·x1+k2·x2+……+kn·xn,这个函数对新的输入变量,能获得最接近实际值的函数值。回归即输入是离散变量,输出是连续值。
如何求最优参数
求最优参数涉及到定义loss function及最优化方法。loss function是用来评价函数模型是否达到最佳。常用的有最大熵,交叉熵等等。要求函数的最优值需要用到最优化方法,常用的有梯度下降。