机器学习/深度学习/NLP-7-准确率acc、精确率P、召回率R、F1、交叉熵

TP/FN/FP/TN

TP: Ture Positive 把正的判断为正的数目。
FN: False Negative 把正的错判为负的数目。
FP: False Positive 把负的错判为正的数目。
TN: True Negative 把负的判为负的数目。

准确率acc

准确率(Accuracy)是指在所有的判断中有多少判断正确的，即把正的判断为正的，把负的判断为负的，这两种情况在所有判断中的占比。
公式为：
Acc = (TP+TN) / (TP+TN+FN+FP)

精确率P

精确率(Precision)是指预测为正的样本中有多少是对的。
公式为：
P= TP / (TP+FP)

召回率R

召回率 (Recall)是指样本中有多少正样本被预测正确了。
公式为：
R= TP / (TP+FN)

F1

F1是用来综合精确率和召回率的。
公式为：
F1=2PR/(P+R)

实例

假设一个男生班里有10个人，其中大老爷们儿3人，娘炮儿7人。
我对这些人进行预测，其中大老爷们有2个预测成了大老爷们，1个预测成了娘炮；娘炮3个预测成了娘炮，4个预测成了大老爷们（哎，娘炮不好区分啊）。这里面，大老爷们是正样本，娘炮是负样本。
那么：
acc=(2+3)/100
P=2/(2+4)
R=2/3
F1=2PR/(P+R)=(22/62/3)/(2/6+2/3)

交叉熵

其中，M是总的类别数量，y是样本真实标签，p为样本预测结果。