Softmax分类器

SVM分类器得到的是一个得分数值。Softmax得到的是一个概率值。


1. Sigmoid函数:(x 可以去任意值,y 得到0-1之间的数值(0-1数值相当于概率值)。)

                

2. Softmax分类器:

  Softmax的输出:归一化的分类概率。输入一个向量(向量元素为任意实数),输出的是一个向量(向量元素为0-1之间的概率值)

实例:

分类品种得分值将得到的值进行ex处理做归一化处理得到每个分类的概率
3.224.50.13
5.11640.87
-1.70.180.00
得到归一化处理结果之后然后对得到的数值做-log(x)处理  来得到每一个分类的损失值。狗的损失值 -log(0.13)=0.89  ,猫的损失值 -log(0.87),猪的损失值 -log(0)。




引用\[1\]:损失函数是用来告诉我们当前分类器性能好坏的评价函数,是用于指导分类器权重调整的指导性函数,通过该函数可以知道该如何改进权重系数。通俗都来说一组参数(W,b)对应一个损失L,一般的损失越小模型越好,我们目标是通过各种优化,使损失达到最优(不一定最小是最优的)。引用\[2\]:交叉熵损失衡量分模型的性能,其输出是介于 0 和 1 之间的概率。交叉熵损失随着预测概率与实际标签的偏离而增加。因此,当实际观察标签为 1 时预测 0.012 的概率模型不好,并导致高损失。完美模型的对数损失为 0。cross-entropy一般再softmax函数求得结果后再用。\[3\]根据给出的引用内容,softmax分类器是一种常用的分类器,它使用softmax函数将输入转换为概率分布,并使用交叉熵损失函数来衡量模型的性能。softmax函数将输入向量的每个元素转换为介于0和1之间的概率,这些概率的总和为1。交叉熵损失函数衡量模型的预测概率与实际标签之间的偏离程度,当预测概率与实际标签相符时,损失函数的较小,模型性能较好。通过优化损失函数,我们可以调整模型的权重系数,以提高模型的准确性。 #### 引用[.reference_title] - *1* *2* [Softmax分类器及交叉熵损失(通俗易懂)](https://blog.csdn.net/Peyzhang/article/details/125418625)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [【PyTorch深度学习实践】08_Softmax分类器(多分)](https://blog.csdn.net/weixin_56956615/article/details/128696510)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值