- 博客(4)
- 收藏
- 关注
RSS订阅原创 folcal loss
当一个样本被正确分类时，\( p_t \) 接近1，此时 \((1 - p_t)^\gamma\) 接近0，从而减小了这些容易分类样本的损失值。当一个样本被错误分类时，\( p_t \) 接近0，此时 \((1 - p_t)^\gamma\) 接近1，从而增加了这些难分类样本的损失值。它通过给难分类的样本（即靠近决策边界的样本）分配更高的权重，同时减小对容易分类样本（即远离决策边界的样本）的影响，从而提高模型的性能。- \( \alpha_t \) 是用于平衡正负样本的权重系数。
2024-07-25 16:53:25
187
原创 激活函数总结
softmax函数在神经网络输出层充当激活函数，将输出层的值通过激活函数映射到0到1之间，将神经元输出构造成概率分布，用于多分类问题，softmax几乎函数的映射值越大，真实类别的可能性越大。训练神经网络的时候，一旦学习率没有设置好，第一次更新权重的时候，输入是负值，这个含有Relu神经节点就会死亡，再也不会被激活，要设置一个合适的较小的学习率，以降低这种情况的发生。Sigmoid函数的输出范围在0到1之间。Sigmoid函数将输入的值压缩到【0，1】范围，tanh函数将输入的值要锁到【-1，1】范围。
2024-07-21 17:51:34
733
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人