文章目录
线性模型
1.基本形式
1.1线性模型
- 每个样本 x x x由 d d d个特征描述: x = [ x 1 , x 2 , . . . , x d ] T ∈ R d x=[x_1,x_2,...,x_d]^T\in R^d x=[x1,x2,...,xd]T∈Rd,线性模型是学习下面关于特征的组合函数:
f ( x ) = w 1 x 1 + w 2 x 2 + . . . + w d x d + b = w T x + b f(x)=w_1x_1+w_2x_2+...+w_dx_d+b=w^Tx+b f(x)=w1x1+w2x2+...+wdxd+b=wTx+b
线性模型的可解释性强。
2.线性回归
2.1线性回归
线性回归试图学习学习一个线性模型,来尽可能的预测实值输出标记。
如果采取均方差的学习策略,则求节目标函数: E ( w , b ) = ∑ i = 1 n ( w T x i + b − y i ) 2 E(w,b)=\sum_{i=1}^n{(w_Tx_i+b-y_i)^2} E(w,b)=∑i=1n(wTxi+b−yi)2
目标函数对w求导,导数为0对应的w即为所求。
2.2多回归任务:
将向量映射为向量,也就是说 y i y_i yi不再是一个常数值,而是一个向量。我们要做的就是把 x i 映 射 到 y i x_i映射到y_i