Logistic Regression为什么使用sigmoid

最新推荐文章于 2020-12-09 10:16:48 发布
VIP文章 最新推荐文章于 2020-12-09 10:16:48 发布
阅读量1.3k 收藏 8
点赞数 2
分类专栏： 数据挖掘 logistic regression
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hwcptbtptp/article/details/84975994
版权

今天看到一个面试题，问的是为什么Logistic Regression使用sigmoid函数？有什么优点和缺点？为什么不使用其他函数，搜了一天，终于理清了一些头绪。

1、 为什么使用sigmoid函数？
 

发现了一篇文章，写得特别好。从广义现行模型和最大熵的角度分别解释了为什么会有sigmoid函数。

原文 https://blog.csdn.net/baidu_15238925/article/details/81291247

最低0.47元/天 解锁文章
hwcptbtptp
关注
  • 2
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于Logistic Regression的分类器设计1
08-03
2.1 提出假设函数 2.2 极大似然估计 2.3 损失函数与代价函数 2.4 正则化 2.5 目标函数 3.1 Sigmoid 函数的良好性质 3.2 梯度求
Logistic Regression 之 Sigmoid
asdasdasdasasd1111的博客
10-16 1413
逻辑回归（Logistic Regression, LR）模型也是一个二分类模型，属于广义线性模型，它还有个名字叫做二项逻辑斯蒂(谛)回归（不知为什么加个斯蒂(谛)），虽然叫XX回归，但却不属于回归模型。
机器学习之Logistic回归激活函数为什么是Sigmoid？
woshicao11的博客
08-06 7546
第一次听到这个问题，大概大脑停顿了片刻，这是个问题吗？因为sigmoid值在0-1之间符合概率分布，处处可导，关键是在0附近变化很快...这些都只是sigmoid的优点。为什么LR不用别的也具有这些优点的激活函数呢？这是数学公式推导出来的——最大熵模型！ 证明Logistic回归激活函数为什么是Sigmoid？假设我们已经证明： 最大熵模型中，条件概率   其中，wi是参数，f为特征函数(...
为什么logistic回归的要用sigmoid函数？优缺点？
MyNotes
03-21 4179
优点： 1.数据压缩能力，将数据规约在［0，1］之间 2.导数形式优秀，方便计算 缺点： 1.容易梯度消失，x稍大的情况下就趋近一条水平线 2.非0中心化，在神经网络算法等情况下，造成反向传播时权重的全正全负的情况。 为什么要用？ 答案1:logistic是基于Bernoulli分布的假设，也就是y|X~Bernoulli分布，而Bernoulli分布的指数族的形式就是1/(1+exp(-z)) ...
LR（逻辑回归） 为什么使用sigmoid函数
北冥有小鱼
07-30 4520
上图为sigmoid函数的形式 选择sigmoid 的原因想从两方面来说： 1、 Sigmoid 函数自身的性质 sigmoid 函数连续，单调递增 sigmiod 函数关于（0，0.5） 中心对称 对sigmoid函数求导 计算sigmoid函数的导数非常的快速 即sigmoid是伯努利分布的指数族形式...
logistic回归为什么采用sigmoid函数——从广义线性函数推导
zhy_is_pig的博客
09-11 1853
目录Logistic回归基本形式为什么采用sigmoid函数？广义线性模型 Logistic回归基本形式 为什么采用sigmoid函数？ 广义线性模型
python机器学习算法（赵志勇）学习笔记( Logistic Regression，LR模型)
12-22
Logistic Regression（逻辑回归） 分类算法是典型的监督学习，分类算法通过对训练样本的学习，得到从样本特征...如果一个分类问题可以使用线性判别函数正确分类，则称该问题为线性可分否则为线性不可分问题 Logistic
Andrew Ng Machine Learning——Work(Two)——Logistic regression——Regularized(Based on Python 3.7)
12-20
目录Regularized Logistic regression1.0 Package1.1 Load data1.2 Visualization data1.3 Data preprocess1.4 Feature mapping1.5 Sigmoid function1.6 Regularized costunction1.7 Regularized gradientfunction...
编程作业2 logistic_regression（逻辑回归）(吴恩达)
01-20
文章目录编程作业2 logistic_regression（逻辑回归）1.准备数据2.sigmoid 函数3.cost function(代价函数)4.gradient descent(梯度下降)5.拟合参数6.用训练集预测和验证7.寻找决策边界8.推导 编程作业2 logistic_...
dsc-logistic-regression-intro-atlanta-ds-091619
04-15
我们将从介绍sigmoid函数开始，并说明如何使用它来拟合与二元分类器匹配的曲线（例如，某人的年收入超过或低于$ 40ka，或者它们是好是坏的信用风险）。评估分类器然后，我们将研究基于精度，召回率和准确性来评估...
Sigmoid函数的作用
weixin_40489988的博客
07-28 9781
Sigmoid函数的公式是这样的 公式： 这个公式为什么会用于机器学习中，因为它可以很好的表示机器学习中的预测问题，对于一个预测问题我们想要得到一个0或1的答案，但是很多输出的数据结果并不是0或1，也许会是0.7，我们用这个函数曲线来进行预测，将输入数据代入到sigmoid函数中，得到一个在这个光滑曲线上的某个点，若该点大于0.5，认为事件的概率为1，小于，则为0。 在实际的机器学习中，我们定义一...
机器学习之逻辑回归(logistics regression)
热门推荐
KI的博客
06-27 10万+
逻辑回归（Logistic Regression）与线性回归（Linear Regression）都是一种广义线性模型（generalized linear model）。逻辑回归假设因变量 y 服从伯努利分布，而线性回归假设因变量 y 服从高斯分布。 因此逻辑回归与线性回归有很多相同之处，去除Sigmoid映射函数的话，逻辑回归算法就是一个线性回归。...
逻辑回归python sigmoid(z)_逻辑回归( Logistic Regression)的Python源码的实现
weixin_39585617的博客
12-09 183
1. 前言本文主要讲解逻辑回归的代码的实现，逻辑回归的原理讲解大家可以去coursera上面看吴恩达的机器学习课程的第三周的课程，里面讲解的比较详细，适合入门的学者。b站上面也有该课程的视频，逻辑回归的内容在视频33-视频39以下为该课程网上的相关笔记:2. 源码讲解下面开始源码的讲解2.1 __init__()def __init__(self, learning_rate=.1, n_iter...
Logistic回归实战篇之预测病马死亡率（三）
燕哥带你学算法
10-21 7810
作 者：崔家华 编 辑：李文臣 四、使用Sklearn构建Logistic回归分类器 开始新一轮的征程，让我们看下Sklearn的Logistic回归分类器！ 官方英文文档地址：http://scikit-learn.org/dev/modules/generated/sklearn.linear_model.LogisticRegression.html#sklearn.
Logistic regression 为什么用 sigmoid ？
aliceyangxi1987的博客
05-29 2670
假设我们有一个线性分类器： 我们要求得合适的 W ，使 0-1 loss 的期望值最小，即下面这个期望最小： 一对 x y 的 0-1 loss 为： 在数据集上的 0-1 loss 期望值为： 由 链式法则 将概率p变换如下： 为了最小化 R（h），只需要对每个 x 最小化它的 conditional risk： 由 0-1 loss 的定义，当 h（x）不...
解释logistic回归为什么要使用sigmoid函数
qq_19645269的博客
03-14 2万+
  这篇博客是在知乎上有个乎友问的问题，我的回答
为什么logistic regression要使用sigmoid函数
Baoli1008的专栏
03-23 7741
转自：JUN’S TECH BLOG http://leijun00.github.io/2014/08/logistic-regression/我们知道,线性回归模型输出的是一个连续值,如果我们要输出的不是连续值,该怎么做呢?假设我们的输出只有 1 和 -1. 逻辑回归模型形式上是把线性回归模型做一个变换,让其输出是一个 0 到 1 之间的数,假设我们的变换叫做 g(z)g(z),然后在变换后
Logistic回归中的Logit函数和sigmoid函数
海晨威
09-01 2万+
在线性回归中，y=wTxy=wTxy=w^{T}x，是用直线去拟合数据，实现最小二乘意义下的最小预测误差。 在逻辑回归中：logit(p)=log(p1−p)=wTxlogit(p)=log(p1−p)=wTxlogit(p)=log(\frac{p}{1-p})=w^{T}x，可以看作是用直线去拟合Logit函数，通过极大似然估计出参数，使得在该参数下，能以最大概率生成当前的样本。 这里要说...
【机器学习】【逻辑回归】Logistic函数/Sigmoid函数的详细公式推导
蔚蓝的天空Tom
03-19 3万+
sigmoid函数的数学公式                sigmoid函数的因变量x取值范围是-∞到+∞，(-∞，+∞)，但是sigmoid函数的值域是(0, 1)。不管x取什么值其对应的sigmoid函数值一定会落到(0,1)范围内~~~漂亮的logistic 曲线sigmoid函数对应的图形就是logistic曲线，logistic曲线对应的函数就是sigmoid函数。下面我们用通过spy...
LogisticRegression
最新发布
06-03
`LogisticRegression`是一种经典的二分类模型，它可以用于预测二元变量的概率。在训练阶段，`LogisticRegression`通过拟合训练数据集来学习一个线性模型，并将该模型应用于预测测试数据。在`LogisticRegression`中，我们使用sigmoid函数对线性模型的输出进行转换，将其转换为0-1之间的概率值。模型的输出结果可以被解释为某一类别的概率，例如，在二分类问题中，输出结果可以被解释为属于某一类的概率。通常，如果输出结果大于0.5，则预测为正类；否则，预测为负类。 在Python中，`LogisticRegression`是一个非常常用的模型，可以使用`sklearn`库中的`LogisticRegression`类来构建。可以使用`fit()`函数对模型进行训练，并使用`predict()`函数对新的数据进行预测。在训练模型时，需要提供训练数据和对应的标签。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值