Python算法总结（八）逻辑回归（附手写python实现代码）

通过手写python，加深了对算法原理及流程的理解。

一、算法类型

有监督的分类算法

二、算法原理

损失函数

带L1正则化的损失函数

下带L2正则化的损失函数

以下对不带正则化的损失函数求解w：
批量梯度下降法BGD求解w的公式

随机梯度下降法SGD求解w的公式

小批量梯度下降法MBGD求解w的公式

三、手写Python算法

注：不带正则化

# 辅助函数1：定义sigmoid函数
def sigmoid(x):
    s=1 / (1+ np.exp(-x))
    return s

# 辅助函数2：定义标准化函数

def normalizer(xmat):
    #xmat：特征矩阵
    inmat=xmat.copy()
    means=np.mean(inmat,axis=0)
    std=np.std(inmat,axis=0)
    result=