目录
一、多维特征Multiple features(variables)
二、多维线性回归模型multiple linear regression
WEEK 2-1.1多维特征
一、多维特征Multiple features(variables)
①回顾:之前更多的是一个特征x(例如房屋的大小->预测房屋的价格)
f(x)=wx+b
②引入更多因素:,
,
,
........卧室数量,层数,房屋年龄等
③符号规则:
:第j个特征
:特征的总数
: 第i个训练示例(实际上是有各种因素的列表,比如下图中第二行方框)
:第i个训练样例中的第j个特征(列表中的一个值)
二、多维线性回归模型multiple linear regression
以前单维度:f(x)=wx+b
多元线性回归:f(x)=
参数:①向量w=[w1,w2,w3,...... wn]
②数字b
多维度公式可以简写为:(点积运算)
WEEK 2-1.2向量化
一、简便化:
①非矢量化简便:(不推荐)
f=0
for j in range(0,n):
f=f+w[j]*x[j]
f=f+b
②矢量化简便(代码运行速度快)
f=np.dot(w,x)+b
③执行过程对比:
矢量化直接取出数字相乘相加
WEEK-2-1.4用于多元回归的梯度下降方法
一、梯度下降
①左边是单维度,右边是多维度
②w,b的更新规则
二、正规方程:
①特点:
只适用于线性回归;解决w,b不用迭代
②缺点:
不适用于其他模型;速度慢(feature>10000)
③面试了解:
某些机器学习库可能在后端使用这种复杂方法求解w&b,但对于大多学习算法,梯度下降提供了更好的方法完成工作。