逻辑回归(Logistic Regression)是一种广泛应用于二分类问题的统计学习方法。尽管名称中有“回归”二字,但实际上它是一种分类算法。本文将简单介绍逻辑回归的基本原理、模型构建、损失函数与优化方法、参数调整、模型评估以及应用场景。
1、模型构建
初始化参数: 在开始训练之前,需要为模型参数设置初始值。这些参数通常是随机初始化或设为零。
import numpy as np
# 初始化参数
def initialize_parameters(dim):
w = np.zeros((dim, 1))
b = 0
return w, b
计算线性模型: 使用特征向量与权重向量的点积来计算线性组合 ()。
# 计算线性模型
def linear_forward(X, w, b):
z = np.dot(w.T, X) + b
return z
应用 Sigmoid 函数: 将线性输出 (z) 通过 Sigmoid 函数转换为概率值 (),其中
(