回归算法-LR

回归技术概述：

因变量y和自变量x的关系:

y与x的关系y=f（x，w） w为参数
y还受到噪音的影响 y=f(x,w) + b

应用：

发现y与x的关系
发现规律预测新情况下的y值
如预测点击率，销售额。

逻辑回归

因变量y的标号{0，1}
1发生，0不发生
根据特征x，预测发生概率p （y=1|x）
套入激活函数：sigmoid函数求导

梯度下降法：

1.设置初始W，计算F（w）
2.计算梯度 导数 F(w)
3.下降方向 dir = （-导数F(w)）