逻辑回归原理 图文解释

逻辑回归是一种广泛应用的机器学习算法，它主要用于分类问题。

逻辑回归的基本思想是使用一个函数来预测一个样本属于某一类的概率。这个函数称为逻辑函数，其输出值在0到1之间。当输出值较大时，样本属于这一类的概率就较大；当输出值较小时，样本属于这一类的概率就较小。

我们用训练数据来学习逻辑函数的参数，然后用这个函数来预测新样本的类别。

通常使用一个二次函数来表示逻辑函数，其形式为：

$$\hat{y}=\frac{1}{1+e^{-(w_0+w_1x_1+w_2x_2+...+w_mx_m)}}$$

其中，$w_0$是常数项，$w_1$到$w_m$是特征的权重，$x_1$到$x_m$是输入的特征。

对于一个给定的样本，我们输入其特征值，然后计算逻辑函数的值。逻辑回归的分类决策规则是：当逻辑函数的值大于0.5时，预测为1类；当逻辑函数的值小于等于0.5时，预测为0类。

我们使用极大似然法来学习参数$w_0$到$w_m$。具体来说，我们有一个训练