《python深度学习》笔记（十六）：softmax和sigmoid

最新推荐文章于 2024-09-13 08:27:54 发布

码上边城

最新推荐文章于 2024-09-13 08:27:54 发布

阅读量938

点赞数

分类专栏：《python深度学习》笔记文章标签：深度学习 python 神经网络

本文链接：https://blog.csdn.net/qq_59572329/article/details/122142475

版权

《python深度学习》笔记专栏收录该内容

23 篇文章 54 订阅

订阅专栏

本文详细介绍了Sigmoid和Softmax两种函数的用途和计算过程。Sigmoid作为激活函数，用于二分类问题，将输出值映射到(0,1)之间。而Softmax则常用于多分类任务，对输出进行归一化，得到每个类别的概率分布。示例代码分别展示了Sigmoid和Softmax的Python实现。

摘要由CSDN通过智能技术生成

softmax：softmax的计算的是一个比重，是一个针对输出结果归一化的过程，所以很多文献里也称作softmax层。softmax一般用于多分类的结果，一般和one-hot的真实标签值配合使用，大多数用于网络的最后一层；

sigmoid：sigmoid只是对每一个输出值进行非线性化，只是一个非线性激活过程，所以一般称为激活函数。sigmoid是原本一种隐层之间的激活函数，但是因为效果比其他激活函数差，目前一般也只会出现在二分类的输出层中，与0 1真实标签配合使用。

代码解释

import numpy as np

def sigmoid(inputs):
    """
    Calculate the sigmoid for the give inputs (array)
    :param inputs:
    :return:
    """
    sigmoid_scores = [1 / float(1 + np.exp(- x)) for x in inputs]
    return sigmoid_scores


sigmoid_inputs = [2, 3, 5, 6]
print("Sigmoid Function Output :: {}".format(sigmoid(sigmoid_inputs)))

import numpy as np

def softmax(inputs):
    """
    Calculate the softmax for the give inputs (array)
    :param inputs:
    :return:
    """
    return np.exp(inputs) / float(sum(np.exp(inputs)))

softmax_inputs = [2, 3, 5, 6]
print( "Softmax Function Output :: {}".format(softmax(softmax_inputs)))