域适应编程自问自答（1）：

苗妮

已于 2023-07-31 09:13:43 修改

阅读量73

点赞数

分类专栏： Domain adaption 文章标签： python 神经网络迁移学习

于 2023-07-31 09:11:42 首次发布

本文链接：https://blog.csdn.net/u014655960/article/details/131972742

版权

Domain adaption 专栏收录该内容

3 篇文章 1 订阅

订阅专栏

1、什么是yaml 文件？

2、文件夹中__init__.py 文件的作用？

3、 torch.nn.Sequential(*layers) 中* 的作用？

4、nn.Sigmoid() 做网络的最后一层的作用？

10、from __futrue__ import print_function

1、什么是yaml 文件？

YAML常用于各种场景，包括软件应用程序的配置文件、软件包管理（例如Python中的pip）等。是一种人类友好数据格式。

以下是使用示例，有以下特点：

1） # 表示注释

2）用键值对表示映射（字典）

3）破折号后跟空格来表示列表（序列）中的元素

# 示例YAML配置文件
name: John Doe
age: 25
email: johndoe@example.com
is_active: true
interests:
  - 阅读
  - 烹饪
  - 徒步旅行

# Backbone
backbone: resnet50

# Transfer loss related
transfer_loss_weight: 1.0
transfer_loss: adv

# Optimizer related
lr: 0.01
weight_decay: 0.001  # 正则化权重衰减
momentum: 0.9 # 动量，一种优化器技术、使得参数在更新时保持一定惯性，有助于加快收敛速度和减少震荡
lr_scheduler: True # 是否采用学习率调度器
lr_gamma: 0.001 # 学习率衰减系数
lr_decay: 0.75 # 学习率衰减率

# Training related
n_iter_per_epoch: 500
n_epoch: 20

# Others
seed: 1  # 随机种子，在需要可复现的实验或训练过程中，设置相同的随机种子可以确保结果的一致
num_workers: 3  # 数据加载进程数目

2、文件夹中init.py 文件的作用？

3、 torch.nn.Sequential(layers) 中的作用？

在Python中，*（星号）是一个特殊的语法，称为"unpacking"（解包）。在函数调用或参数传递中，使用*可以将一个可迭代对象（例如列表、元组）解包成单独的元素，然后作为函数的参数传递。这样做的好处是，可以方便地将一个可迭代对象中的元素逐个传递给函数，而不需要手动一个一个地写出来。

对于torch.nn.Sequential(*layers)，*的作用是将传递给函数的多个层（layers）解包成单独的参数，并按照它们在参数列表中的顺序传递给torch.nn.Sequential()构造函数。

例如，假设有一个列表 layers_list 包含了多个神经网络层的对象，我们可以使用*将列表中的层解包，然后传递给torch.nn.Sequential()，如下所示：

import torch.nn as nn

# 假设 layers_list 是一个包含多个神经网络层对象的列表
layer1 = nn.Linear(in_features=64, out_features=128)
layer2 = nn.ReLU()
layer3 = nn.Linear(in_features=128, out_features=10)

layers_list = [layer1, layer2, layer3]

# 使用 * 将列表中的层解包，并按顺序传递给 torch.nn.Sequential()
model = nn.Sequential(*layers_list)

4、nn.Sigmoid() 做网络的最后一层的作用？

nn.Sigmoid() 是非线性激活函数，和nn.Relu()有类似的作用，增强网络的非线性。

而nn.Sigmoid() 作为神经网络的最后一层的作用通常用于解决二分类问题，并将输出转化为概率值。

在二分类问题中，我们通常希望模型输出一个介于0到1之间的值，表示样本属于某一类别的概率。nn.Sigmoid()是一个激活函数，它将输入映射到0到1之间的范围。

在神经网络的输出层应用 nn.Sigmoid() 可以将输出转化为概率，即模型预测某一样本属于正类的概率。通常，如果 Sigmoid 输出的概率大于 0.5，则将样本划分为正类（类别1）；如果 Sigmoid 输出的概率小于等于 0.5，则将样本划分为负类（类别0）。

在二分类问题中，可以使用二元交叉熵损失函数（Binary Cross Entropy Loss）与 nn.Sigmoid() 结合使用来进行训练，从而使得模型的输出尽可能接近样本的真实标签。

需要注意的是，对于多类别分类问题（即样本可以属于多个类别），通常不使用 nn.Sigmoid() 作为最后一层，而是使用 Softmax 函数与多类别交叉熵损失函数（Categorical Cross Entropy Loss）结合来进行训练。

5、请解释下述代码？

class ReverseLayerF(Function):
    @staticmethod
    def forward(ctx, x, alpha):
        ctx.alpha = alpha
        return x.view_as(x)

    @staticmethod
    def backward(ctx, grad_output):
        output = grad_output.neg() * ctx.alpha
        return output, None