逻辑回归是分类模型
逻辑回归特点:模型简单和模型的可解释性强。
逻辑回归模型的优劣势:
- 优点:实现简单,易于理解和实现;计算代价不高,速度很快,存储资源低;
- 缺点:容易欠拟合,分类精度可能不高
分析流程:
- Part1 Demo实践
-
- Step1:库函数导入
-
- Step2:模型训练
-
- Step3:模型参数查看
-
- Step4:数据和模型可视化
-
- Step5:模型预测
- Part2 基于鸢尾花(iris)数据集的逻辑回归分类实践
-
- Step1:库函数导入
-
- Step2:数据读取/载入
-
- Step3:数据信息简单查看
-
- Step4:可视化描述
-
- Step5:利用 逻辑回归模型 在二分类上 进行训练和预测
-
- Step5:利用 逻辑回归模型 在三分类(多分类)上 进行训练和预测
-
回归的基本方程为z=w0+∑Niwixiz=w0+∑iNwixi,
-
将回归方程写入其中为:p=p(y=1|x,θ)=hθ(x,θ)=11+e−(w0+∑Niwixi)p=p(y=1|x,θ)=hθ(x,θ)=11+e−(w0+∑iNwixi)
所以, p(y=1|x,θ)=hθ(x,θ)p(y=1|x,θ)=hθ(x,θ),p(y=0|x,θ)=1−hθ(x,θ)p(y=0|x,θ)=1−hθ(x,θ)
逻辑回归从其原理上来说,逻辑回归其实是实现了一个决策边界:对于函数 y=11+e−zy=11+e−z,当 z=>0z=>0时,y=>0.5y=>0.5,分类为1,当 z<0z<0时,y<0.5y<0.5,分类为0,其对应的yy值我们可以视为类别1的概率预测值.
对于模型的训练而言:实质上来说就是利用数据求解出对应的模型的特定的ww。从而得到一个针对于当前数据的特征逻辑回归模型。
而对于多分类而言,将多个二分类的逻辑回归组合,即可实现多分类。