机器学习3：sigmod函数与分类（激活函数的来龙去脉）

最新推荐文章于 2024-09-04 21:17:05 发布
最新推荐文章于 2024-09-04 21:17:05 发布
阅读量3.5k 收藏 4
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qqqinrui/article/details/84643635
版权
本文探讨了Sigmod函数作为激活函数在机器学习中的应用，特别是在分类问题中的角色。它被用于表示0-1之间的分类概率，与Bayes分类中的后验概率有直接联系。通过线性模型z=wx+b，Sigmod函数能够转换为概率值，用于决策边界。
摘要由CSDN通过智能技术生成

sigmod函数：

sigmod函数是常用的激活函数，函数特点如上，用来表示分类概率。表面上看，是因为函数曲线正好可以用来描述概率关系0-1之间，并且有无限趋近的特点；实际上，sigmod函数确实与分类概率存在特定的联系。

具体分析如下：

在bayes分类中，后验概率表示为

$$P(C_{1}|x)=\frac{P(x|C_{1})P(C_{1})} { P(x|C_{1}) P(C_{1}) + P(x|C_{2}) P(C_{2})} \\ =\frac{1}{1 + \frac{P(x|C_{2}) P(C_{2})}{ P(x|C_{1}) P(C_{1})}} \\ =\frac{1}{1+e^{-z}}$$

首先看式（2），经过计算概率分布可以求得$$\frac{P(x|C_{2})P(C_{2})}{P(x|C_{1})P(C_{1})} $$等价于ex

最低0.47元/天 解锁文章
勤睿
关注
专栏目录
【机器学习】必会核函数之：Sigmoid 核函数
商务合作 | 面试培训 | 职场规划 ==>主页扫码
07-31 112
必会核函数之：Sigmoid核
实验3 sigmod函数
weixin_48425205的博客
09-10 145
#!/usr/bin/env python # -*- coding: UTF-8 -*- from __future__ import print_function from functools import reduce class VectorOp(object): @staticmethod def dot(x, y): return reduce(lambda a, b: a + b, VectorOp.element_multiply(x, y), 0.0)
机器学习之Sigmoid函数
牛牛博士博客
10-15 2011
Sigmoid函数
激活函数 Sigmod 及其导数
最新发布
PursueLuo的博客
09-04 1061
sigmod 是最常见的激活函数之一。其图像和导数如文章所示。
机器学习之sigmoid函数
lunhuicnm的博客
06-12 629
机器学习笔记
天生我才必有用！
11-29 596
===================================================================== 专题分为六个篇章： 1）机器学习 基础篇 褪去华衣 裸视学习 之 高斯分布 褪去华衣 裸视学习 之 sigmod函数 褪去华衣 裸视学习 之 关于‘基’ 褪去华衣 裸视学习 之 随机数学 褪去华衣 裸视学习 之 小赞deep learning
逻辑回归 sigmod作用 三种多分类方式 softmax回归 onevsone onevsall 极大似然估计
Arthur_Holmes的博客
07-08 1609
还有就是从线性到非线性 对于二分类任务，似然函数是 整合之后的函数的累乘，例如档y=0时，如果预测值越接近于0,则最后的值会更大。所以如下图所说的是要求最大值。 似然函数就是把一个batch中所有的样本数据的 整合前以及整合后（带入y的值），整合是为了方便展示 似然函数就是一个用来描述 斯塔 参数和x数据进行组合之后，求出的值与真实值之间误差大小的函数，一个关于 斯塔的函...
（深度学习入门）sigmoid型函数和 sigmoid函数的区别
ALLISBUG的博客
11-01 605
（深度学习入门之激活函数）sigmoid型函数和 sigmoid函数的区别
常见激活函数excel图
08-07
常见激活函数的图，用excel画的，有图有数据，高清缩放不变形，论文必备，包括Sigmoid、Tanh、ReLU、LeakyReLU
机器学习——激活函数sigmoid、tanh、ReLU和softmax
fortune_cookie的博客
10-17 2732
在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。具体来说，神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值传递给下一层，输入层神经元节点会将输入属性值直接传递给下一层（隐层或输出层）。比较常用的激活函数主要有：sigmoid函数、tanh函数、ReLU函数和softmax函数。下面我们将具体介绍。
sigmoid:sigmod功能
05-20
sigmod sigmod功能JavaScript实现 安装 $ npm install sigmoid 用法 var sigmoid = require ( 'sigmoid' ) ; sigmoid ( 0.05 ) // 0.5124973964842104 执照
激活函数
u011832926的博客
05-17 4258
形象的解释神经网络激活函数的作用是什么？] 激活函数是用来加入非线性因素的，解决线性模型所不能解决的问题。首先我们有这个需求，就是二分类问题，如我要将下面的三角形和圆形点进行正确的分类，如下图：利用我们单层的感知机, 用它可以划出一条线, 把平面分割开：上图直线是由得到，那么该感知器实现预测的功能步骤如下...
分类任务与激活函数
Cocktail_py的博客
08-24 1267
分类任务可分为:二分类,多分类,多标签分类 1.分类任务 二分类 多分类 多标签分类 2.建模上的区别 3.代码实现 # 激活函数练习 # sigmoid import numpy as np # 输入的数字越小 越靠近0,数字越大越靠近1 def sigmoid(x): return 1.0 / (1 + np.exp(-x)) print(sigmoid(0.1)) # 画图 import matplotlib.pyplot as plt sigmoid_input.
softmax多分类激活函数
qq_35200479的博客
12-08 5426
softmax函数，或称归一化指数函数
【从零开始的机器学习】-07 分类问题与逻辑回归
cyoushika_Nara的博客
01-28 1108
导语 如我们在第二章中提到的，有监督学习主要分为回归问题和分类问题。之前的章节我们已经介绍过一元线性回归问题，多元线性回归问题，从本章开始我们将进入另一个方向——分类问题 (Classification)。 1. 什么是分类问题？ 分类问题大致分为：二元分类和多元分类。二元分类就是判断”是或不是”的问题，比如判断一张图片里的动物是否为猫，判断一封邮件是否为垃圾邮件；而多元分类则是从多个选项中判断是哪一个，比如判断一张图片里的数字是几。 2. 是否可以用线性回归来解决？ 3. 二元分类 3.1 假设函数 3.
神经网络中经常使用的激活函数--sigmoid函数
学无止境
06-08 2万+
神经网络中经常使用的激活函数–sigmoid函数σ(x) sigmoid函数（σ） sigmoid函数原型 sigmoid函数是机器学习中的一个比较常用的函数，其函数原型如下图所示： sigmoid函数的函数曲线以及其导数曲线如下图所示： 通过上图可以看出在趋于正无穷或负无穷时，sigmoid函数都趋近平滑状态。当x趋近负无穷时，y趋近于0；趋近于正无穷时，y趋近于1。由于sigmoid函数输出范围为（0，1），所以二分类的概率常常用使用这个函数。 sigmoid函数求导 Sigmoid函数的导数是其本
从0到1 激活函数（一）sigmod函数
秋水顽石
12-20 6万+
引言 本节主要是介绍神经网络中常见的激活函数-----sigmod函数。 sigmod的函数 简介 sigmod的函数是一个在生物学中常见的S型函数，也称为S型生长曲线。在信息科学中，由于其单增以及反函数单增等性质，常被用作神经网络的激活函数，将变量映射到0,1之间。-------------摘自《百度百科》 sigmod函数也叫作Log...
机器学习中的数学——激活函数（一）：Sigmoid函数
热门推荐
冯·诺依曼
10-05 17万+
Sigmoid函数是一个在生物学中常见的S型函数，也称为S型生长曲线。在深度学习中，由于其单增以及反函数单增等性质，Sigmoid函数常被用作神经网络的激活函数，将变量映射到[0,1][0, 1][0,1]之间。 S(x)=11+e−xS(x)=\frac{1}{1+e^{-x}}S(x)=1+e−x1​ Sigmoid函数的导数可以用其自身表示： S′(x)=e−x(1+e−x)2=S(x)(1−S(x))S'(x)=\frac{e^{-x}}{(1+e^{-x})^2}=S(x)(1-S(x))S′(x
sigmod激活函数
08-14
Sigmod（S型）激活函数是一种常用的非线性激活函数，它的定义如下： f(x) = 1 / (1 + exp(-x)) 其中，exp(x) 是自然常数e的x次幂。Sigmod函数将输入x映射到一个介于0和1之间的值，因此常被用于二分类问题中，作为输出层的激活函数。它的图形呈现出S形曲线，因此得名Sigmod函数。Sigmod函数具有以下特点： 1. 输出范围在0到1之间：Sigmod函数将任意实数映射到0到1之间，这使得它可以用于表示概率或者二分类问题中的概率分数。 2. 非线性特性：Sigmod函数是非线性的，这使得神经网络能够学习到更加复杂的模式和关系。 3. 平滑性：Sigmod函数在整个定义域内都是可导的，并且其导数在0处最大，这在反向传播中很有用。 然而，需要注意的是，Sigmod函数在输入较大或较小的情况下，容易出现梯度消失或梯度爆炸的问题，会导致训练过程变得困难。因此，在一些场景下，可以考虑使用其他激活函数如ReLU（线性整流单元）来替代Sigmod函数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值