softmax函数的设计和实现

0. 输出层激活函数的选择

• 分类问题（这个人是男是女）：softmax函数
• 回归问题（预测一个人的体重）：恒等函数

1. 深度学习是什么意思？

学习：使用训练数据，自动调整参数

2. 在Python console中学习softmax函数

import  numpy as np
a=np.array([0.3,2.9,4])
exp_a=np.exp(a) # 求数组中各个元素的e指数值
exp_a
Out[6]: array([ 1.34985881, 18.17414537, 54.59815003])
sum_exp_a=np.sum(exp_a)
  ...: 
y=exp_a/sum_exp_a
y
Out[9]: array([0.01821127, 0.24519181, 0.73659691])

3. 代码实现softmax函数

"""
# -*- coding: utf-8 -*-
# @Time    : 2023/3/3 22:19
# @Author  : 王摇摆
# @FileName: softmax.py
# @Software: PyCharm
# @Blog    ：https://blog.csdn.net/weixin_44943389?type=blog
"""
import numpy as np


def softmax(x):
    exp_x = np.exp(x)
    sum_exp_x = np.sum(exp_x)

    return exp_x / sum_exp_x


# 程序入口
x = np.array([0.3, 2.9, 4])
print(softmax(x))


D:\ANACONDA\envs\pytorch\python.exe C:/Users/Administrator/Desktop/Code/learn_pytorch/ch03/softmax.py
[0.01821127 0.24519181 0.73659691]

Process finished with exit code 0

以上两种实现方式的结果是完全一样的

---