python做逻辑斯蒂二分类_用二项逻辑斯蒂回归解决二分类问题

逻辑斯蒂回归:

逻辑斯蒂回归是统计学习中的经典分类方法，属于对数线性模型。logistic回归的因变量可以是二分类的，

也可以是多分类的

基本原理

logistic 分布

折X是连续的随机变量，X服从logistic分布是指X具有下列分布函数和密度函数:

其中

为位置参数，

为形状参数。

与

图像如下，其中分布函数是以

为中心对阵，

越小曲线变化越快

二项logistic回归模型；

二项logistic回归模型如下:

其中

是输入，

输出，W称为权值向量，b称为偏置，

是w和x的内积

参数估计

​ 假设：

​

​ 则似然函数为:

​

​ 求对数似然函数：

​

​

​ 从而对

求极大值，得到w的估计值。求极值的方法可以是梯度下降法，梯度上升法等。

示例代码:

#导入需要的包：

from pyspark import SparkContext

from pyspark.sql import SparkSession,Row,functions

from pyspark.ml.linalg import Vector,Vectors

from pyspark.ml.evaluation import MulticlassClassificationEvaluator

from pyspark.ml import Pipeline

from pyspark.ml.feature import IndexToString,StringIndexer,VectorIndexer,HashingTF,Tokenizer

from pyspark.ml.classification import LogisticRegression,LogisticRegressionModel,BinaryLogisticRegressionSummary,LogisticRegression<