logistic回归分析优点_logistic回归模型分析

logistic回归模型是一种线性生成模型。本文将介绍logistic回归模型相关的知识，为了更好地理解模型的决策边界函数，本文同时分析了多元变量的协方差对概率分布的影响。

本文脉络:

1. logistic回归模型的含义
2. logistic模型的决策边界函数分析
3. logistic模型的参数最优化
4. logistic回归模型与感知机模型的比较
5. 总结

logistic回归模型的含义

我们把分类模型分成两个阶段，推断阶段和决策阶段，推断阶段对联合概率分布建模，然后归一化，得到后验概率。决策阶段确定每个新输入x的类别。

我们用推断阶段的方法来推导logistic回归模型，首先对类条件概率密度

和类先验概率分布

建模，然后通过贝叶斯定理计算后验概率密度。

考虑二分类的情形，类别C1的后验概率密度;

令

则:

式中的

就是logistic函数

因此，logistic回归的值等于输入变量为x的条件下类别为C1的概率