一、损失函数(衡量模型输出与真实标签的差异)
1.损失函数,代价函数,目标函数的区别:
损失函数:一个样本的差异
代价函数: 所有样本损失的均值
目标函数:obj=Cost+Regulaization(正则项:防止过拟合)
2 常用损失函数
a:nn.CrossEntropyLoss:nn.LogSoftmax()(数据归一化)与nn.NLLLoss()结合,进行交叉熵计算。
主要参数 weight:各类别的loss设置权值,每个类别的权值
ignore_index:忽略某个类别,不计算loss
reduction:计算模式(none逐个计算/sum所有元素求和返回标量/mean加权平均返回标量)
inputs=t.tensor([[1,2],[1,3],[1,