模型的各部分顺序:数据集处理、数据读取、初始化模型参数、定义模型、定义损失函数、定义优化函数、训练
一、线性回归
torch中可以使用的三种线性回归的方式
# ways to init a multilayer network
# method one
net = nn.Sequential(
nn.Linear(num_inputs, 1)
# other layers can be added here
)
# method two
net = nn.Sequential()
net.add_module('linear', nn.Linear(num_inputs, 1))
# net.add_module ......
# method three
from collections import OrderedDict
net = nn.Sequential(OrderedDict([
('linear', nn.Linear(num_inputs, 1))
# ......
]))
二、softmax与分类模型
在分类模型上的softmax可以较好完成我们的分类需求
借助该函数我们可以完成一个分类的概率计算与最终的分类类别结果。
在分类中,我们的损失函数计算加入交叉熵计算能够更好衡量两个概率分布差异的测量函数。
三、多层感知机
多层感知机有输入层、隐藏层和输出层。
常见的激活函数有:ReLU函数、Sigmoid函数、tanh函数。