- 博客(2)
- 收藏
- 关注
RSS订阅原创 pytorch自定义损失函数、动态调整学习率、模型微调以及半精度训练
一、自定义损失函数 除了pytorch提供的损失函数，我们可以自定义损失函数，自定义损失函数的方法有： 1.以函数的方式定义 2.以类方式定义 二、动态调整学习率 通过适当的选取学习率策略可以提高模型精度，选取的方法如下： 1.使用官方scheduler 2.自定义scheduler 三、模型微调 通过迁移学习可以借助小样本数据集训练出符合预期的网络模型。 主要流程为： 1.预训练一个网络模型 2.创建目标模型（与原模型仅在输出层上有区别） 3.添加输出层并初始化参数 4.在目标数据集上进行训练 四、半精度
2022-03-20 00:23:59
1522
原创 pytorch模型定义、搭建、修改以及存取
一、 pytorch模型定义的方式 pytorch模型的定义主要包括初始化以及数据流向两个部分，并且均继承于nn.Module类。 pytorch的模型定义共可以分为三种方式： Sequential：传入有序字典即可，不用再写forword函数，但是缺乏灵活性； ModuleList：接收子模块的列表，需要通过forward函数定义顺序； ModuleDict：与ModuleList作用类似，但是可以方便对层添加名称。 二、利用模型块快速搭建复杂网络 关键点：通过简单层构建出具有特定功能的模型块，然后通
2022-03-17 00:56:02
1150
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人