探究Softmax的替代品：exp(x)的偶次泰勒展开式总是正的

©PaperWeekly 原创 · 作者｜苏剑林

单位｜追一科技

研究方向｜NLP、神经网络

刚看到一个有意思的结论：

对于任意实数 x 及偶数 n，总有 ，即 的偶次泰勒展开式总是正的。

下面我们来看一下这个结论的证明，以及它在寻找 softmax 替代品中的应用。

证明过程

看上去这是一个很强的结果，证明会不会很复杂？其实证明非常简单，记：

当 n 是偶数时，我们有 ，即整体是开口向上的，所以我们只需要证明它的最小值大于 0 就行了，又因为它是一个光滑连续的多项式函数，所以最小值点必然是某个极小值点。那么换个角度想，我们只需要证明它所有的极值点（不管是极大还是极小）所对应的函数值都大于 0。

求极值点的方法自然是求导，而