逻辑回归是一种常用的分类算法,尤其适用于二分类问题。逻辑回归的核心思想是通过对数几率函数(logistic function)将线性回归的输出映射到概率空间,从而实现分类。
逻辑回归的原理:
逻辑回归模型使用对数几率函数(logistic function)作为激活函数,将线性回归的输出映射到概率空间。对数几率函数的数学表达式:
其中,P(Y=1∣X)表示给定输入特征X时,数据点属于正类的概率;w是权重向量;b是偏置项;e是自然对数的底数。
逻辑回归模型的损失函数是交叉熵损失(cross-entropy loss),数学表达式为: