如何理解深度学习源码里经常出现的logits？

转自：如何理解深度学习源码里经常出现的logits？ - ke1th的回答 - 知乎 https://www.zhihu.com/question/60751553/answer/242666339

logits: 一个事件发生与该事件不发生的比值的对数（统计学习方法-李航 p78）。假设一个事件发生的概率为 p，那么该事件的 logits 为 .

现在来看一下这个式子和 softmax 有啥关系。在 dl 中，softmax 层会对输入进行归一化处理以得到概率分布：如下面式子所述

就是 tensorflow 所称的 logits， 一通就计算发现 . 所以 tensorflow 中 logit 代表的意思 并不是 logit 的数学含义。 当成 未归一化的概率 就好。