深度学习入门——softmax函数实现

在分类问题中经常使用softmax函数：

• 分子：输入信号ak的指数函数
• 分母：所有输入信号的指数函数和

由上图可得，softmax函数的输出层的各个神经元都受到所有输入信号的影响

1. softmax函数的实现

# 神经网络的多元分类利用到softmax函数

import numpy as np


a = np.array([0.3, 2.9, 4])
exp_a = np.exp(a) # 指数函数
print(exp_a)

sum_exp_a = np.sum(exp_a)
print(sum_exp_a)

y = exp_a / sum_exp_a
print(y)


# softmax由于存在指数运算，会存在数据溢出问题（计算机运算时的数据应该保持在4~8字节的数据带宽内）