最形象直观的方式理解逻辑回归
逻辑回归(Logistic Regression)的目的是分类,最开始是从逻辑分类(即二分类)展开并进一步扩充的,思想来源于线性回归,故名逻辑回归。本文从简单形象的例子出发,解释逻辑回归的思想和推导过程,通俗易懂,只要接触过概率论就能看得明白。
一、思想由来(买衣服例子)
——比如来到商场,看见一件衣服你比较喜欢,你会更仔细打量它,并决定是否购买,你的内心经过 博弈后做出最终方案:买与不买,逻辑回归就可以很好比拟这个博弈过程。
——博弈过程中,你会思考很多属性,比如价格、质量、颜色、尺码……,每一个属性都同时给你待来快乐和失望,只是比重不同。价格便宜给你带来快乐远大于失望、价格昂贵给你带来的快乐远小于失望……
——当综合所有因素以后,如果你还是愿意购买,说明买这件衣服的所有属性给你带来的快乐要高于失望;反则不愿意购买,说明给你带来的快乐少于失望。逻辑回归的过程就是把这些属性带给你的情感结合起来,判断你最终是快乐多还是失望多。用逻辑回归模拟这个过程,当回归模型输出1,表示你快乐多,决定买它;输出0,表示失望多,决定放弃。
二、结合例子简单推导过程
一件衣服(Xi)的各种属性(价格、质量、颜色、尺码……)用Xi1、Xi2、Xi3、Xi4……代表