机器学习中Softmax

在机器学习中，softmax函数是一种常用的激活函数，通常用于多类别分类问题。它将一个实数向量映射为一个概率分布，使得所有输出的概率之和为1。

softmax函数的计算步骤如下：

1. 给定一个实数向量x = [x1, x2, ..., xn]，其中xi表示向量中的每个元素。
2. 对向量x中的每个元素进行指数化，得到指数向量exp_x = [exp(x1), exp(x2), ..., exp(xn)]。
3. 计算指数向量exp_x中所有元素的和，得到sum_exp_x = exp(x1) + exp(x2) + ... + exp(xn)。
4. 将指数向量exp_x中的每个元素除以sum_exp_x，得到一个新的向量y = [exp(x1)/sum_exp_x, exp(x2)/sum_exp_x, ..., exp(xn)/sum_exp_x]。
5. 向量y即为softmax函数的输出，它表示了输入向量x中每个元素对应的概率分布。

通过softmax函数的计算，我们可以将一个向量中的元素转化为概率值，这些概率值表示了每个元素在整个向量中的重要程度或置信度。

softmax函数在机器学习中的应用非常广泛，特别是在多类别分类问题中。它通常作为神经网络的最后一层，将网络输出转化为概率分布，从而可以根据概率进行分类决策。

逻辑斯蒂回归就是Sigmoid                     

注意muticlass将最后输出层设置成两个即是binary classification