2020-12-15

Python机器学习：逻辑回归的理论

1、模型

• 在分类问题中，比如判断邮件是否为垃圾邮件，判断肿瘤是否为阳性，目标变量是离散的，只有两种取值，通常会编码为0和1。这时候如果我们用线性回归去拟合一条直线，则会存在很多的缺点，比如稳健性差、准确率低。而逻辑回归对于这样的问题会更加合适。

• 逻辑回归假设函数如下，它对线性函数作了一个函数g变换，映射至0到1的范围之内，而函数g称为sigmoid function或者logistic function，函数图像如下图所示。当我们输入特征，得到的hθ(x)其实是这个样本属于1这个分类的概率值。也就是说，逻辑回归是用来得到样本属于某个分类的概率。

2、代码实现

import numpy as np
import matplotlib.pyplot as plt

def sigmoid(t):
    return 1. / (1. + np.exp(-t))

x = np.linspace(-10, 10, 500)

plt.plot(x, sigmoid(x))
plt.show()

• 最后输出的结果为：
  

3、逻辑回归模型的优劣势:

• 优点：实现简单，易于理解和实现；计算代价不高，速度很快，存储资源低；
• 缺点：容易欠拟合，分类精度可能不高

4、学习地址：

https://tianchi.aliyun.com/s/20d6735792ef867814c90698221d1499