logistic Regression 存在的限制 与 解决办法

文章探讨了logistic Regression在处理分类问题时遇到的界限线性问题,并提出解决方案。通过特征转换,例如将原始特征转化为与特定点的距离,可以构造出能被直线区分的新特征。当特征转换不易时,采用级联逻辑斯特回归(Cascading logistic regression)策略,通过多阶段的特征转换和logistic Regression应用,有效解决分类难题。
摘要由CSDN通过智能技术生成

logistic Regression存在的限制:(所有图来源于Bishop)

Problem:对于logistic Regression解决分类问题,分类边界是一条直线,但是当存在某些数据,会找不到一条直线分界,怎么办呢?

Solve:(1)feature transformation,即特征转换。举例说明:

存在4组数据,[ x1, x2] 分别是[0, 0]、 [0, 1]、 [1, 0]、 [1, 1],zhe我们把数据点画在二维平面上,如下图所示:

我们发现无论如何也无法找到一条直线作为分界来划分红色和蓝色的数据点。此时,我们可以进行特征转换,特征转换可以自定义方式,比如:

[ x1, x2<

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值