在机器学习中,损失函数是非常重要的,用于衡量目标结果的好坏,用于训练模型,损失函数就是目标函数了。常见的损失函数有以下几种:
1.‘0/1损失函数’
f(z)=1, 如果z是小于零的,其他就等于0.
性质:不是凸函数,不是连续的函数,数学性质不是非常好,一般用于感知机算法,感知机算法的损失函数就是这个。为了克服这个函数不连续,不是凸函数的问题,出现了其他几种可以替代的函数
2.hinge损失函数
f(z) = max(0, 1-z)
典型的应用就是支持向量机的损失函数就是这个。
3.指数损失函数
f(z)=exp(-z)