逻辑回归(logistics regression)
逻辑回归是使用回归思想去解决分类问题。
这里使用sigmod函数去近似分类问题。
当z<0时,y=0
当z=0时,y=0.5
当z=1时,y=1。
这里回归是指使用线性回归z=wx去寻找一个分界点,使得按照这个界进行数据分类后得到的损失cost最小。
问题:使用回归思想去实现二分类问题
核心:sigmoid函数 z=wx
损失函数:cost=-ylog(h)-(1-y)log(1-h)
求解:梯度下降法
解释一下:这里损失函数定义是因为使用sigmoid函数去近似分类函数。在标签y*=1时,模型输出值h等于1,损失为0;模型输出值h越接近1,损失越接近0。标签y*=0时,模型输出值h等于0,损失为0,模型输出值越接近0,损失越接近0。
具体推导看下图。