Sigmoid 激活函数 & Softmax激活函数

对于二分类的图像分类问题，常用的输出层激活函数有两种选择：

1. Sigmoid 激活函数：

   • Sigmoid 激活函数将网络的原始输出压缩到 (0, 1) 范围内，表示某个事件（类别）发生的概率。对于二分类问题，通常只有两个类别，因此 Sigmoid 是一个合适的选择。
   • 输出层只有一个神经元，表示二分类问题中的一个类别。模型的输出可以看作是属于正类别的概率（或置信度）。
   • 适用于二分类问题，例如猫与狗的图像分类，垃圾邮件检测等。

2. Softmax 激活函数（改进版）：

   • 尽管 softmax 通常用于多类别分类，但也可以在二分类问题中使用。在这种情况下，输出层仍然有两个神经元，但可以将它们解释为两个类别的概率。
   • 使用 softmax 时，两个输出神经元的概率之和将总是等于 1。
   • 适用于需要在二分类问题中得到明确的类别概率分布的情况。

总之，对于二分类的图像分类问题，通常可以选择使用 Sigmoid 激活函数或 Softmax 激活函数，具体选择取决于问题的需求和模型的设计。通常情况下，Sigmoid 是更常见的选择，因为它更直观地表示两个类别之一的概率。

补充：

Softmax是一种常用的多类别分类问题中的输出激活函数，它将网络的原始输出转化为表示不同类别概率的分布。softmax 将每个神经元的输出映射到 (0, 1) 范围内，并确保它们的总和为 1。这使得模型可以为每个类别分配一个概率，然后选择具有最高概率的类别作为预测结果。这对于多类别分类问题非常适用，因为它可以帮助模型估计每个类别的相对概率。