转自:如何理解深度学习源码里经常出现的logits? - ke1th的回答 - 知乎 https://www.zhihu.com/question/60751553/answer/242666339
logits: 一个事件发生与该事件不发生的比值的对数(统计学习方法-李航 p78)。假设一个事件发生的概率为 p,那么该事件的 logits 为 .
现在来看一下这个式子和 softmax 有啥关系。在 dl 中,softmax 层会对输入进行归一化处理以得到概率分布:如下面式子所述
就是 tensorflow 所称的 logits, 一通就计算发现 . 所以 tensorflow 中 logit 代表的意思 并不是 logit 的数学含义。 当成 未归一化的概率 就好。