Day4 Logistic回归
github: 100DaysOfMLCode
Logistic回归用于分类问题,可以直接用于二分类问题,也可以设计应用于多分类问题。
原理
传统的感知机将wx+b>0和wx+b<0实现二分类(0、1),Logistics回归更进一步,通过Logistic函数表示分类1的概率。
s
i
g
m
o
i
d
(
z
)
=
1
1
+
e
−
z
sigmoid(z) = \frac{1}{1+e^{-z}}
sigmoid(z)=1+e−z1,
p
=
s
i
g
m
o
i
d
(
w
x
+
b
>
0
)
>
0.5
p=sigmoid(wx+b>0) > 0.5
p=sigmoid(wx+b>0)>0.5,属于1类,
p
=
s
i
g
m
o
i
d
(
w
x
+
b
<
0
)
<
0.5
p=sigmoid(wx+b<0) < 0.5
p=sigmoid(wx+b<0)<0.5,属于0类。
最大似然函数:
∏
p
y
∗
(
1
−
p
)
1
−
y
)
\prod{}{}p^{y} * (1-p)^{1-y})
∏py∗(1−p)1−y)
L
=
∑
(
y
∗
l
o
g
(
p
)
+
(
1
−
y
)
∗
l
o
g
(
1
−
p
)
)
L = \sum( y * log( p )+ (1-y) * log(1 - p))
L=∑(y∗log(p)+(1−y)∗log(1−p))
Logistic函数是怎么来的
l o g i t ( p / ( 1 − p ) ) = w x + b logit(p/(1-p)) = wx + b logit(p/(1−p))=wx+b