focal loss函数曲线-python
focal loss函数
焦点损失函数在原交叉熵损失函数的基础上,添加了一个调制因子(1-pi)γ,可以用来调整在少量困难样本和大部分容易样本间的均衡性。调制因子中γ的表示可调聚焦参数。此外,α为平衡因子,用以均衡正负样本本身的数量比例。焦点损失函数的计算方式如下所示:
当预测值越接近样本真值时,pi的值趋近于1(即样本为简单样本),而调制因子趋于0,不会影响损失权值的变化。当发生误分类时,pi的值比较小(即样本为难样本),调制因子趋近于1,会减小损失的权重值。而交叉熵损失函数可以看作焦点损失函数的一种特例,即平衡程度为零的损失函数。
focal loss图像
不同γ值下的损失衰减如图所示
focal loss代码
# coding:utf-8
import matplotlib.pyplot as plt
import numpy as np
from numpy.lib.scimath import logn
from math import e
import matplotlib as mpl
# 防止中文乱码问题
mpl.rcParams['font.sans-serif'] = [u'SimHei']
mpl.rcParams['axes.unicode_minus'] = False
mpl.rcParams['figure.figsize'] = [9, 8] # for square canvas
x = np.arange(0, 1, 0.01) # 创建100个0到6之间的等比数列
# plt.plot(x,np.log(x)/np.log(0.5),'y-', linewidth=2, label=u'log0.5(x)')#log0.5(x)
plt.plot(x, -logn(e, x), 'b-', linewidth=2, label=u'γ= 0') # loge(x)
plt.plot(x, -logn(e, x) * (1 - x), 'r-', linewidth=2, label=u'γ= 1')
plt.plot(x, -logn(e, x) * pow((1 - x), 2), 'g-', linewidth=2, label=u'γ= 2')
plt.plot(x, -logn(e, x) * pow((1 - x), 3), 'y-', linewidth=2, label=u'γ= 3')
plt.plot(x, -logn(e, x) * pow((1 - x), 4), 'c-', linewidth=2, label=u'γ= 4')
# plt.plot(x,np.log(x)/np.log(5))
# plt.plot(x,logn(5,x),'g-',linewidth=2, label=u'loge(x)') #等于求log5(X)
# plt.plot(x,np.log10(x),'r-',linewidth=2, label=u'loge(x)')#log10(x)
plt.axis([0, 1, 0, 5.]) # 指定画图板的长宽
plt.xticks(size=20)
plt.yticks(size=20)
plt.ylabel("loss", fontdict={'weight': 'normal', 'size': 20})
plt.xlabel("pt", fontdict={'weight': 'normal', 'size': 20})
plt.legend(loc='upper right', prop={'size': 20}) # 图例的位置
# plt.grid(True)#需要网格
plt.show()