本文介绍了逻辑回归的基础概念，它适用于分类问题特别是两分类问题。逻辑回归被视作单层神经网络的一个特例。文章讨论了训练过程中，逻辑回归的线性预测输出、成本函数和损失函数的设计，强调了选择凸函数作为损失函数以避免局部最优的重要性。
1.基础概念介绍
逻辑回归(Logistic Regression, LR)模型，回归是一种极易理解的模型，就相当于y=f(x)，表明自变量x与因变量y的关系。最常见问题有如：通过用户的一些特征，性别，职业，近期购买记录等特征预测用户是否会购买某个商品，其中的用户特征就是自变量x，即特征数据，判断是否购买就相当于获取因变量y，即预测分类。（0不买，1购买）
使用场景：当你的目标变量是分类变量时，才会考虑逻辑回归，并且主要用于两分类问题
2. LR与神经网络的关系
- Neural Networks：神经网络，由多个神经元构造，可以有多个输入、多个输出
- Logistic Regression可以看做是仅含有一个神经元的单层的神经网络
3. 训练过程
逻辑回归中，预测值 表示为1的概率，取值范围在[0,1]之间。这是其与二分类模型不同的地方。使用线性模型，引入参数w和b。权重w的维度是（ ，1），b是一个常数项。这样，逻辑回归的线性预测输出可以写成：
，1），b是一个常数项。这样，逻辑回归的线性预测输出可以写成：
最低0.47元/天 解锁文章
扫一扫
5273
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
