keras自定义loss函数

自定义loss函数很重要，在写rmse的时候，发现keras并没有，所以找了其他博客。其实也很简单，输入是真实值和预测值。
mae:

mse:

rmse:

def rmse(y_true, y_pred):  
	return K.sqrt(K.mean(K.square(y_pred - y_true), axis=-1))
......

model.compile(loss=rmse, optimizer='adam', metrics=['mae'])  

loss不用双引号，自定义函数

只是看这些抽象的公式，很难帮我们理解它们之间的差异，让我们来用一个实际的例子说明：
假设你想了解量女朋友在准时方面的特点，你统计了近两个月女朋友约会的迟到时间（即是实际到达时间和约定时间的差距，或误差，单位可以是分钟，时间有夸大，我们只想你更好理解概念），如下：

第一个月迟到时间1 = ([5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 1000])

第二个月迟到时间2= ([5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10, 5, 10])
那么我们来计算两个序列的平均绝对误差MAE和均方根误差RMSE。
我们计算得出:

对于第一个月：平均绝对误差 MAE1 = 62.5分钟,均方根误差 RMSE1：235.82 分钟

对于第二个月：平均绝对误差 MAE2 = 7.5分钟,均方根误差RMSE2 = 7.91分钟
第一个月的平均绝对误差 MAE(62.5) 与均方根误差 RMSE(235.82) 之比接近1:4，

第二个月迟到时间的平均绝对误差 MAE (7.5) 与均方根误差 RMSE(7.91)之比约为1:1。
我们应该用哪个量衡量女朋友守时呢？

我们看到均方根误差 RMSE 受异常值的影响更大。

如果我们去评判女朋友守时方面的进步，用RMSE标准，我们更可以看到她的进步之大，也许更要奖励她一顿饕餮盛宴。
一般来说，我们应该期望 MAE 值比 RMSE 值小得多。

因为对于均方根误差RMSE,每个误差都是平方的。

这意味着单个误差呈二次增长，并且对最终RMSE值有不同的影响。
这两组误差序列之间的惟一区别是序列1中的极值是1000，而不是10。

因此，我们看到较大的异常值对均方根误差RMSE的影响更大。

源码

"""Built-in loss functions.
"""
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function

import six
from . import backend as K
from .utils.generic_utils import deserialize_keras_object
from .utils.generic_utils import serialize_keras_object


def mean_squared_error(y_true, y_pred):
    return K.mean(K.square(y_pred - y_true), axis=-1)


def mean_absolute_error(y_true, y_pred):
    return K.mean(K.abs(y_pred - y_true), axis=-1)


def mean_absolute_percentage_error(y_true, y_pred):
    diff = K.abs((y_true - y_pred) / K.clip(K.abs(y_true),
                                            K.epsilon(),
                                            None))
    return 100. * K.mean(diff, axis=-1)


def mean_squared_logarithmic_error(y_true, y_pred):
    first_log = K.log(K.clip(y_pred, K.epsilon(), None) + 1.)
    second_log = K.log(K.clip(y_true, K.epsilon(), None) + 1.)
    return K.mean(K.square(first_log - second_log), axis=-1)


def squared_hinge(y_true, y_pred):
    return K.mean(K.square(K.maximum(1. - y_true * y_pred, 0.)), axis=-1)


def hinge(y_true, y_pred):
    return K.mean(K.maximum(1. - y_true * y_pred, 0.), axis=-1)


def categorical_hinge(y_true, y_pred):
    pos = K.sum(y_true * y_pred, axis=-1)
    neg = K.max((1. - y_true) * y_pred, axis=-1)
    return K.maximum(0., neg - pos + 1.)


def logcosh(y_true, y_pred):
    """Logarithm of the hyperbolic cosine of the prediction error.

    `log(cosh(x))` is approximately equal to `(x ** 2) / 2` for small `x` and
    to `abs(x) - log(2)` for large `x`. This means that 'logcosh' works mostly
    like the mean squared error, but will not be so strongly affected by the
    occasional wildly incorrect prediction.

    # Arguments
        y_true: tensor of true targets.
        y_pred: tensor of predicted targets.

    # Returns
        Tensor with one scalar loss entry per sample.
    """
    def _logcosh(x):
        return x + K.softplus(-2. * x) - K.log(2.)
    return K.mean(_logcosh(y_pred - y_true), axis=-1)


def categorical_crossentropy(y_true, y_pred):
    return K.categorical_crossentropy(y_true, y_pred)


def sparse_categorical_crossentropy(y_true, y_pred):
    return K.sparse_categorical_crossentropy(y_true, y_pred)


def binary_crossentropy(y_true, y_pred):
    return K.mean(K.binary_crossentropy(y_true, y_pred), axis=-1)


def kullback_leibler_divergence(y_true, y_pred):
    y_true = K.clip(y_true, K.epsilon(), 1)
    y_pred = K.clip(y_pred, K.epsilon(), 1)
    return K.sum(y_true * K.log(y_true / y_pred), axis=-1)


def poisson(y_true, y_pred):
    return K.mean(y_pred - y_true * K.log(y_pred + K.epsilon()), axis=-1)


def cosine_proximity(y_true, y_pred):
    y_true = K.l2_normalize(y_true, axis=-1)
    y_pred = K.l2_normalize(y_pred, axis=-1)
    return -K.sum(y_true * y_pred, axis=-1)


# Aliases.

mse = MSE = mean_squared_error
mae = MAE = mean_absolute_error
mape = MAPE = mean_absolute_percentage_error
msle = MSLE = mean_squared_logarithmic_error
kld = KLD = kullback_leibler_divergence
cosine = cosine_proximity


def serialize(loss):
    return serialize_keras_object(loss)


def deserialize(name, custom_objects=None):
    return deserialize_keras_object(name,
                                    module_objects=globals(),
                                    custom_objects=custom_objects,
                                    printable_module_name='loss function')


def get(identifier):
    """Get the `identifier` loss function.

    # Arguments
        identifier: None or str, name of the function.

    # Returns
        The loss function or None if `identifier` is None.

    # Raises
        ValueError if unknown identifier.
    """
    if identifier is None:
        return None
    if isinstance(identifier, six.string_types):
        identifier = str(identifier)
        return deserialize(identifier)
    if isinstance(identifier, dict):
        return deserialize(identifier)
    elif callable(identifier):
        return identifier
    else:
        raise ValueError('Could not interpret '
                         'loss function identifier:', identifier)