信用评分卡—信贷准入A卡（逻辑回归）

前言

在业界有几种不同的流派（业界建立逻辑回归）

• 直接用原始变量进行回归（模型粗糙并不能生成评分卡）
• 从原始数据生成0/1的虚拟变量（dummy variable）进行回归（FICO用的较多，已不是主流）
• 从原始数据生成woe（weight of evidence）进行回归

1.逻辑回归原理

1.1 求解方式

预测函数(线性回归模型上加了sigmoid函数)：$$h_{\theta }(x)=\frac{1}{1+e^{-\theta x}}其中\theta x={\theta }_0+{\theta }_1{x}_1+{\theta }_2{x}_2+...+{\theta }_n{x}_n$$
对于二分类：
$$\{\begin{array}{l}p(y=1|x,\theta )=h_{\theta }(x)\\ p(y=0|x,\theta )=1-h_{\theta }(x)\end{array}$$
将其合并得到：
$$p(y|x,\theta )=h_{\theta }(x{)}^y(1-h_{\theta }(x){)}^{(1-y)}$$
利用极大似然估计得到（MLE）：
$$L_{(\theta )}=\prod _{i=1}^{n}p(y_i|x_i,\theta )=\prod _{i=1}^n{h}_{\theta }(x_i{)}^{y_i}(1-h_{\theta }(x_i){)}^{(1-y_i}$$