pytorch一些函数解释

缓慢更新...

1._ntuple()

位置：torch.nn.modules.utils._ntuple()

作用：将某个变量重复n次，可通过name重命名。源码：

    def _ntuple(n, name="parse"):
        def parse(x):
            if isinstance(x, collections.abc.Iterable):
                return tuple(x)
            return tuple(repeat(x, n))

        parse.__name__ = name
        return parse

例子代码：

demo = _ntuple(5,"demo")# demo函数表示将传来的数重复5次
print(demo(1))# (1 1 1 1 1) tuple类型
# 卷积网络中_pair也用到此类函数,下面代码做了省略。
_pair = _ntuple(2, "_pair") # 表示重复2次

class Conv2d(_ConvNd):
    def __init__(
        self,
        kernel_size: _size_2_t,
        stride: _size_2_t = 1,
        device=None,
        dtype=None
    ) -> None:
        factory_kwargs = {'device': device, 'dtype': dtype}
        kernel_size_ = _pair(kernel_size)
        stride_ = _pair(stride)

2.交叉熵损失CrossEntropyLoss()

通常用与分类任务(插曲：二分类sigmod函数多，多分类softmax函数多)。

"""
CrossEntropyLoss()相当于先softmax后log最后nll
"""
import torch
from torch.nn.functional import softmax, nll_loss
from math import log
import numpy as np

# tensor([[-0.7556,  1.3590]])
# tensor([1])
# tensor(0.1139)

output = torch.tensor([[-0.7556, 1.3590]], dtype=torch.float32)
target = torch.tensor([1], dtype=torch.int64)
# step1 softmax
b = softmax(output, dim=-1)
print(b)
# step2 log
c = torch.log(b)
print(c)
# step3 nll
d = nll_loss(c, target)
print(d)


# 创建交叉熵损失函数
criterion = torch.nn.CrossEntropyLoss()

# 计算损失
loss = criterion(output, target)
print("02loss", loss)