- Logistic Regression
-
Logistic Refression 模型是广义线性模型的一种,在分类的问题中,需要找到一条直线(超平面)来分割不同类别的数据。
- 超平面的表示:
y = W X + b y=WX+b y=WX+b其中,W为权重(向量),b为偏置(向量),根据维度的不同,公式可以表示为( y = w x + b y=wx+b y=wx+b或者 y = w 1 x 1 + w 2 x 2 + . . . . . . + w n x n + b 0 + b 1 + . . . . . . + b n y=w_{1}x_{1}+w_{2}x_{2}+......+w_{n}x_{n}+b_{0}+b_{1}+......+b_{n} y=w1x1+w2x2+......+wnxn+b0+b1+......+bn),通过对样本数据的学习,最终得到超平面的函数。
- 阈值函数:
在Logistic Regression分类中,数据被分为两个类别,就是需要将样本映射到两个不同的类别中,常见的阈值函数(Sigmoid函数): y = 1 1 + e − x y=\frac{1}{1+e^{-x}} y=1+e−x1
该函数图像是我调用python下面matlablib库简单做出的sigmoid函数的图像。源代码在https://github.com/xzccfzy/sigmoid_show.git
根据图像可以看出,无论输入的值为什么,通过sigmoid输出的值都在[0,1]之间。所以可以满足将样本映射到两个不同类别
的这个要求,并且可以将sigmoid的输出值作为概率。 - 将超平面与阈值函数结合起来
sigmoid函数的输入是一个数,那么如果将输入换成一组向量呢,即将超平面的函数式作为sigmoid的输入,那么输出即为某个数据的类别了。
sigmoid函数和超平面函数结合的结果为: f ( X , W , b ) = 1 1 + e − ( W X + b ) f(X,W,b)=\frac{1}{1+e^{-(WX+b)}} f(X,W,b)=1+<
-
python机器学习算法》学习之路-第二章(Logistic Regression逻辑回归)
最新推荐文章于 2023-11-23 11:14:30 发布
![](https://img-home.csdnimg.cn/images/20240711042549.png)