欢迎使用CSDN-markdown编辑器

逻辑回归的数学推导和python实现

本文是笔者用来记录自己对于机器学习传统方法的学习过程，并且对其加以总结之后得到的结果，希望能够帮自己巩固机器学习的知识，并且能够加深对其的理解话不多说，让我们开始吧

• logistcRegression的数学推导

• 逻辑回归的损失函数

• 逻辑回归的python实现

---

逻辑回归的数学推导

逻辑回归是一种特殊的回归方法，虽然是回归，但其实是一种二分类方法。
首先，说道逻辑回归就不得不说一下广义的线性模型，广义的线性模型是如下定义公式的：
$y = g^{-1}(w^Tx+b)$
这个是线性回归模型中的一般公式，而逻辑回归的时候g() = ln(.)
考虑到二分类的任务，需要把输入和输出分为y = {0,1}，最理想的情况是0处的阶跃函数。但是由于阶跃函数不连续，所以使用sigmoid函数来对它进行替代：
sigmoid函数：

$$y = \frac{1}{1+e^{-z}} z=w^Tx+b$$
从而根据计算公式进行变化，则有

l