matlab 回归 逻辑斯蒂_逻辑斯蒂回归模型

概率无向图模型

主要思想：根据现有的数据对分类边界线（decision boundary）建立回归公式，以此分类。

逻辑斯蒂回归模型

在线性回归模型的基础上，使用Sigmoid函数，将线性模型的结果压缩到[0,1]之间，使其拥有概率意义，它可以将任意输入映射到[0,1]区间，实现值到概率转换。

• 属于概率性判别式模型
• 线性分类算法

优点：

直接对分类的可能性建模，无需事先假设数据的分布，避免假设分布不准确带来的问题。由于它是针对分类的可能性进行建模，不仅能预测出类别，还可得到属于该类别的概率。

逻辑斯蒂函数

假设某事件发生的概率为p，那么此事件不发生的概率为（1-p），则称p/（1-p）为此事件发生的几率。取此事件发生几率的对数定义logit（p）:

取logit函数的反函数，称为logistic函数，即Sigmoid函数：

逻辑斯蒂回归模型

分类算法是求解

，用逻辑斯蒂分布的分布函数sigmoid函数建模