本文探讨了非线性决策边界的logistic回归拟合，通过引入多项式特征解决线性分类问题。然而，过多的特征可能导致过拟合。为了解决这个问题，文章介绍了正则化方法，通过加入惩罚项来减小参数权重，防止过拟合。以一个实际的非线性分类数据集为例，展示了如何构建多项式特征，构建并优化带有正则化的成本函数，最后使用梯度下降法求解，并计算预测精度达到91%。
01 非线性决策边界的logistic回归拟合
常规的logistic回归在解决分类问题时，通常是用于线性决策边界的分类（如下图-左图），因为logistic回归可以视为线性回归的一种转化，其回归模型为 (sigmoid函数)：
式中的z=θTx(i)就是不同x的线性表达式f(x) = g(w0+w1x1+w2x2)。那么，对于线性决策边界的分类，如何用logistic回归预测、拟合呢？这时候就需要将f(x) = g(w0+w1x1+w2x2)的线性函数式转化成多项式：f(x) = g(w0+w1x1+w2x2+w3x12+w4x22+w5x1x2)去拟合（如下图-中图）。
这里还是要推荐下小编的Python学习群:483546416，不管你是小白还是大牛，小编我都欢迎，不定期分享干货，包括小编自己整理的一份2017最新的Python资料和0基础入门教程，欢迎初学和进阶中的小伙伴。在不忙的时间我会给大家解惑。
但是，这种处理方式相比较于线性函数表达式会产生很多的项数，因而其变量（特征）也比较多，如果我们没有足够
最低0.47元/天 解锁文章
扫一扫
782
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
