Python机器学习常用

最新推荐文章于 2024-07-15 02:15:00 发布

zoe9698

最新推荐文章于 2024-07-15 02:15:00 发布

阅读量98

点赞数

分类专栏：深度学习文章标签： tensorflow pytorch

本文链接：https://blog.csdn.net/zoe9698/article/details/117425188

版权

深度学习专栏收录该内容

3 篇文章 0 订阅

订阅专栏

2021/5/31更新

Pytorch nn.Softmax()函数

这个函数的公式是

$\frac{e^{x_{i}}}{\sum e^{x_{i}}}$

展开就是：

$\frac{e^{x_{1}}}{e^{x_{1}}+e^{x_{2}}+e^{x_{3}}} OR \frac{e^{x_{2}}}{e^{x_{1}}+e^{x_{2}}+e^{x_{3}}} OR \frac{e^{x_{3}}}{e^{x_{1}}+e^{x_{2}}+e^{x_{3}}}$

import torch
import torch.nn as nn
import numpy as np

a = np.array([[0.5, 0.7],[0.8, 0.4]])
b = torch.from_numpy(a)

f = nn.Softmax(dim = 1)
c = f(b)
c

运行示意：

这个函数中用到了一个参数dim，dim=0时：结果的单列元素之和为1；dim=1时：结果的单行元素之和为1。

$\frac{e^{0.5}}{e^{0.5}+e^{0.7}}=0.450...$ $\frac{e^{0.5}}{e^{0.5}+e^{0.8}}=0.425...$

另一方面，因为这个函数用的是 $e^{x}$ ，所以它能够使元素间差距稍微较大的时候，softmax之后的值会拉开非常大的距离，而元素间差距较小时，softmax之后的值之间的距离会很小，很平滑。

当元素间差都不变，都一样时，softmax生成的矩阵就不变。

2021/7/9更新

python3自带的split和re包里的split的区别：

这个函数就是分割字符串的意思，把字符串分割成列表

python3自带的只允许有一个分割符，re包允许有多个分割符，它们一起用[]列表装起来即可。

两种方法都会把分割符吞掉。

sentence = "布偶猫超可爱！它有长长的毛，和乖巧的性格。"

#py3 split()
sentence.split("！")
#['布偶猫超可爱','它有长长的毛，和乖巧的性格。']

import re
re.split("[！，。]",sentence)
#['布偶猫超可爱','它有长长的毛','和乖巧的性格']