快速了解——逻辑回归及模型评估方法

一、逻辑回归

应用场景：解决二分类问题

1、sigmoid函数

        1. 公式：

        2. 作用：把 (-∞，+∞) 映射到 (0， 1)

        3. 数学性质：单调递增函数，拐点在x=0，y=0.5的位置

        4. 导函数公式：f ′(x) = f(x) (1 – f(x))

2、相关概念

        概率：事件发生的可能性

        联合概率：两个或多个随机变量同时发生的概率

        条件概率：表示事件A在另外一个事件B已经发生条件下的发生概率，P( A | B )

        极大似然估计：根据 观测到的结果 来估计模型算法中的未知参数，即通过极大化概率事                                         件，来估计最优参数

        对数函数：如果a^b = N (a > 0，b != 1)，那么 b 叫做以 a 为底 N 的对数。

                         性质：（a，M，N > 0）

3、概念

        一种分类模型，把线性回归的输出，作为逻辑回归的输入，输出是（0, 1）之间的值

4、假设函数

5、损失函数：对数似然损失