深度学习之logistic回归实现二分类

核心介绍：
采用logistic回归解决分类问题，大致可以分为两个步骤：
1.分类，采用逻辑回归公式实现分类
2.评估分类效果并调整w,b值
一、logistic 回归公式，解决二分类问题$$\hat{y}=\delta (w^{T}x+b),\delta (Z)=\frac{1}{1+e^{-z}},Z=w^{T}x+b$$二、衡量分类效果的标准
可以采用成本函数，值得注意的是损失函数是衡量单一样本的，成本函数是整个样本集。
$$J(w,b)=\frac{1}{m}\sum _{i=1}^{m}L({\hat{y}}^{(i)},y^{(i)})=-\frac{1}{m}[\sum _{i=1}^m{y}^{(i)}\log {\hat{y}}^{(i)}+(1-y^{(i)})\log (1-{\hat{y}}^{(i)})]$$$$注：其中L({\hat{y}}^{(i)},y^{(i)})=-[y^{(i)}\log {\hat{y}}^{(i)}+(1-y^{(i)})\log (1-{\hat{y}}^{(i)})]是损失函数$$
同时，为使损失函数值最小，可以使用梯度下降算法，不断更新w,b的值，其中，涉及内容有学习率，求导（变化率）

• 逻辑回归用于二分类，主要公式如下：
  $$logistic回归公式：Z=W^{T}X+b=np.dot(W^T,X)+b$$$$非线性化，使结果在(0,1)之间：A=\delta (Z)$$
• 反向传播，更新w、b：$$经过证明，对Z的求导是：dZ=A-Y$$$$对w的求导是：dw=\frac{1}{m}X\ast dZ$$$$对b的求导是：db=\frac{1}{m}np.sum(dZ)这里的np是numpy的简写$$$=>w:=w-\alpha dw$ 和 $b:=b-\alpha db$
  符合解释： A表示预测结果的概率，Y表示真实估计值，$\alpha$是学习率（用来控制变化的速率）