使用Python计算softmax函数
softmax函数计算公式如下:
S
i
=
e
v
i
∑
0
j
e
v
i
S_i = \frac{e^{v_i}}{\displaystyle\sum_0^j e^{v_i}}
Si=0∑jevievi
其中,Vi是长度为j的数列V中的一个数,带入softmax的结果其实就是先对每一个Vi取e为底的指数计算变成非负,然后除以所有项之和进行归一化,之后每个Vi就可以解释成观察到的数据Vi属于某个类别的概率,或者称作似然(Likelihood)。
softmax函数代码如下:
import numpy
import math
def softmax(inMatrix):
m,n = numpy.shape(inMatrix)
outMatrix = numpy.mat(numpy.zeros((m,n)))
soft_sum = 0
for idx in range(0,n):
outMatrix[0,idx] = math.exp(inMatrix[0,idx])
soft_sum += outMatrix[0,idx]
for idx in range(0,n):
outMatrix[0,idx] = outMatrix[0,idx] / soft_sum
return outMatrix
输入一个数列a,计算结果如下:
a = numpy.array([[1, 2, 1, 2, 1, 1, 3]])