逻辑回归是一种分类算法,把给入的数据进行分类。
数学基础知识:
1 选择函数 单位阶跃函数或者SIgmoid函数,我选择的后者。
2 用代价函数表示预测值与实际值的偏差,要使得回归最佳你和。使得偏差尽可能的小。
3 记 J(w,b) 表示回归系数取w时的偏差,那么求最佳回归参数w,b就转换成了求J(w,b)的最小值。可以使用梯度下降法求回归参数w,b。
以下为步骤的详细描述:
选择sigmoid函数
采用Sigmoid函数实际上就是将原始的输入x向量和某一合适的参数w向量相乘,得出的值作为sigmoid函数的输入,最终是的输出保持在0和1这两个值中的一个,从而达到分类的要求。
多项logistic回归
损失函数
梯度上升下降
文章出处
这个文章描述的很好
https://blog.csdn.net/Wisimer/article/details/89527151