手写算法-python代码实现非线性逻辑回归（带L1、L2正则项）

非线性逻辑回归分析

上一篇文章，我们介绍了逻辑回归，详情请看这里：

链接: 手写算法-python代码实现逻辑回归（带L1、L2正则项）

其实这是线性逻辑回归，决策边界是线性的，那么当一个数据集，它的划分边界是非线性时，我们该怎么处理？

我们利用sklearn来生成相关数据集：

import numpy as np
import matplotlib.pyplot as plt
#生成高斯分布数据
from sklearn.datasets import make_gaussian_quantiles

#生成2个特征、2个类别的的数据集
x,y = make_gaussian_quantiles(n_samples=200, n_features=2,n_classes=2,random_state = 2020)
#颜色=类别，这样画图很方便
plt.scatter(x[:,0], x[:,1], c=y) 
plt.show()

如图，此时当我们继续用普通逻辑回归去做分类时，可预估到，效果将会很差（前面我们讲非线性回归时，分析过，这里更适合x的多项式作为输入），想了解的请看这里：
链接: 手写算法-Python代码实现非线性回归

用python代码写的逻辑回归类画决策边界 & 用sklearn里面的逻辑回归库画决策边界

用我们写好的逻辑回归代码，看一看，不对x进行处理时，拟合分类边界还会是一条直线吗？

class LogisticRegression:
    
    #默认没有正则化，正则项参数默认为1，学习率默认为0.001，迭代次数为10001次
    def __init__(self,penalty = None,Lambda = 1,a = 0.001,epochs = 10001):
        self.W = Non