机器学习-softmax

已于 2023-03-04 18:02:26 修改
阅读量463 收藏 2
点赞数 1
分类专栏： 机器学习/深度学习 文章标签： 人工智能 python
于 2023-02-16 20:45:10 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_49499340/article/details/129069926
版权

多分类问题使用softmax函数，将分类的结果以概率展现出来。

下图是softmax计算方法，核心是转换成概率问题。

 首先针对不同类别的\LARGE w,b，分别计算出\LARGE z_{1},z_{2},z_{3}；因为概率没有负的，所以进行对\LARGE z进行非负转换，进行以\LARGE e为底的指数操作(不仅转换为非负，而且拉大了不同类之间的距离)。然后对所有结果进行summation，然后再计算每一类所占的比例。

首先看二分类的损失函数：

最低0.47元/天 解锁文章
红豆奶茶..
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
AmSoftmax pytorch实现代码
05-29
AmSoftmax pytorch实现代码
机器学习入门：Softmax
07-03
BAT算法工程师深入详细地讲解Softmax，带你轻松入门机器学习!
动手学深度学习——softmax回归（原理解释+代码详解）
qq_38473254的博客
07-16 1万+
sum运算符：给定一个矩阵X，我们可以对所有元素求和（默认情况下）。也可以只求同一个轴上的元素，即同一列（轴0）或同一行（轴1）。对每个项求幂（使用exp）；对每一行求和（小批量中每个样本是一行），得到每个样本的规范化常数；将每一行除以其规范化常数，确保结果的和为1。
softmax函数的计算方法
m0_71334725的博客
09-24 218
它是二分类函数sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。为了确保各个预测结果的概率之和等于1。方法就是将转化后的结果除以所有转化后结果之和，可以理解为转化后结果占总数的百分比。下图为y=exp(x）的图像，我们可以知道指数函数的值域取值范围是零到正无穷。softmax第一步就是将模型的预测结果转化到指数函数上，这样保证了概率的非负性。首先，我们知道概率有两个性质：1）预测的概率为非负数；softmax就是将在负无穷到正无穷上的预测结果按照这两步转换为概率的。
Transformer模型-softmax的简明介绍：转为概率分布，马太效应
最新发布
Ankie资深技术项目经理
04-03 751
softmax：常用于神经网络的输出层，以将原始的输出值转化为概率分布，从而使得每个类别的概率值在0到1之间，并且所有类别的概率之和为1。这使得Softmax函数特别适用于多类分类问题，其中模型需要预测输入样本属于多个可能类别中的哪一个。
详解Softmax多分类算法及交叉熵（Cross-Entropy）成本函数（附代码实现、计算过程、公式）
Brandonn_Xu的博客
10-26 1956
Softmax 是一个用于多类别分类问题的激活函数，它通常用于神经网络的输出层。Softmax 函数将一个实数向量转换为概率分布，其中每个元素表示一个类别的概率。简单来说，Softmax的输出代表了一个样本属于某一类别的概率。：Softmax 将输入转换成一个概率分布，其中每个元素表示相应类别的概率。这意味着所有输出元素的总和将等于 1。：Softmax 常用于多类别分类问题，其中有多个互斥的类别需要被分配概率。图中，an代表了该y=n的概率预测。
softmax 函数以及相关求导过程+交叉熵（Cross entropy）
ytusdc的博客
06-15 6478
参考文章（需要看）： 2简单的交叉熵损失函数，你真的懂了吗？:https://blog.csdn.net/red_stone1/article/details/80735068 一、softmax函数 softmax(柔性最大值)函数，一般在神经网络中， softmax用于多分类过程中。它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类。softmax函...
NJUST机器学习课后作业python实现-朴素贝叶斯-神经网络-感知机-softmax回归-逻辑回归+源代码+文档说明
12-23
1、资源内容：NJUST机器学习课后作业python实现-朴素贝叶斯-神经网络-感知机-softmax回归-逻辑回归+源代码+文档说明 2、代码特点：内含运行结果，不会运行可私信，参数化编程、参数可方便更改、代码编程思路清晰、...
机器学习-面试机器学习updated
05-05
本文总结了机器学习面试中的常见知识点，包括Logistic回归、Softmax回归、支持向量机（SVM）、K-Means聚类、推荐系统、数据升维、Softmax回归推导、SVM推导、核函数、高斯核函数、特征选择、防止过拟合、SVM的损失...
藏经阁-Softmax Function Vs Sigmoid Fu.pdf
09-09
Softmax 函数和 Sigmoid 函数是机器学习中两个最常用的激活函数，它们都可以用来预测概率，但它们之间存在着一些关键的数学差异。本文将详细介绍 Softmax 函数和 Sigmoid 函数的差异、性质和使用场景。 Softmax ...
详解softmax函数以及相关求导过
wzy的博客
03-21 6820
这几天学习了一下softmax激活函数，以及它的梯度求导过程，整理一下便于分享和交流！ softmax函数 softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！ 假设我们有一个数组，V，Vi表示V中的第i个元素，那么这个元素的softmax值就是更形象的如下图表示： softmax直白来说就是将原来输出是3
softmax函数
热门推荐
zhangt766的博客
06-25 3万+
softmax函数，又称归一化指数函数。它是二分类函数sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。下图展示了softmax的计算方法： 为什么softmax是这种形式？首先，我们知道概率有两个性质：1）预测的概率为非负数；2）各种预测结果概率之和等于1。softmax就是将在负无穷到正无穷上的预测结果按照这两步转换为概率的。1）将预测结果转化为非负数我们可以知道指数函数的值域取值范围是零到正无穷。softmax第一步就是将模型的预测结果转化到指数函数上，这样保证了概率的非负性。
一分钟理解SoftMax函数
郝伟老师的博客——大数据、并行计算与人工智能时代
04-19 1207
前言 SoftMax函数是常用的一个机器学习中的函数，网上的解释很多，你看到的可能是这样的。如果你不是搞学术的，或者数学基础不是那么好，那么我要告诉你： 千万不要看！ 千万不要看！！ 千万不要看！！！ 或者是这样的： 因为这些内容不仅让人难以理解，而且容易对于初学者还会造成一定的误区。 本文以示例和代码进行解释，非常简单直白式，让读者能够快速理解。 一分钟示例 请从头到尾认真阅读本节，只要你认真看完成了，1分钟即可理解SoftMax函数。 解释：给定三个变量 x1=5,x2=−3,x3=0.8x_1=5
构建人工神经网络解决分类问题时，选取softmax激活+交叉熵损失函数组合详解
m0_51818101的博客
05-28 575
引例 引自知乎专栏：https://zhuanlan.zhihu.com/p/35709485 输入一个动物图像，来判别所属的动物类别，有三种可能，分别为猫、狗、猪。 我们想要通过构建人工神经网络去处理这个三分类问题，当从最后一层隐藏层向输出层前进时，这个时候我们得到了输出层的输入，我们采用softmax激活函数来获得输出层的输出。softmax激活函数本质上运用了机器学习中的逻辑回归算法。以该问题为例，x表示输出层获得输入，A1.A2.A3A_1.A_2.A_3A1​.A2​.A3​分别代表该图像是猫
TVM Relay softmax算子调度分析
Eurypterid的博客
08-05 574
tvm relay 算子调度分析
【机器学习】SoftMax多分类
qq_25218219的博客
04-08 1222
给定以歌n×kn×kn×k矩阵Ww1w2wkWw1​w2​...wk​,其中，wj∈Rnw_j\in R^nwj​∈Rn为n×1n×1n×1列向量（1≤j≤k1≤j≤k）,Softmax模型hwRn→Rkhw​Rn→RkhWxew1x∑t1kewtxew2x∑t1kewtxewkx∑t1kewtx。
机器学习随记（3）— Softmax
YoungITの博客
05-07 325
（简单说就是将softmax整合进loss计算中，并在神经网络最后一层的softmax层变成线性激活层）训练过程中将 softmax 和 loss 结合起来，可以获得更稳定和准确的结果。注意：输出预测不是概率！如果所需的输出是概率，则输出应由 softmax处理！与sigmoid不同，softmax可以多个输出，每个输出以概率的形式表示。Tensorflow 有两种可能的目标值格式，损失的选择定义了预期的格式。这是所有损失的平均值。
softmax 的计算
brooknew的专栏
05-22 1274
softmax 是神经网络的一种激活函数。本文给出一种使用 tensorflow 计算 softmax 和直接使用 python 计算softmax 的例子。import tensorflow as tfimport math#a = [1.0,2.0,3.0,4.0]a = tf.Variable( [1.0,2.0,3.0,4.0] )y = tf.nn.softmax( a )se = tf...
SoftMax计算
今晚打老虎
03-26 833
Softmax的作用简单的说就计算一组数值中每个值的占比
机器学习softmax回归原理
05-29
softmax回归是一种分类算法，它的原理是将输入的特征向量进行加权求和，并通过softmax函数将结果转化为概率分布，从而预测输入数据的分类。 具体来说，softmax回归模型的输入是一个特征向量 x，其输出是一个大小为 ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值