MXNet自定义目标函数

最新推荐文章于 2023-01-26 10:53:45 发布

展翅XP

最新推荐文章于 2023-01-26 10:53:45 发布

阅读量9k

点赞数 2

分类专栏：日常记录文章标签： python mxnet 深度学习

本文链接：https://blog.csdn.net/zhzhanp/article/details/50890483

版权

本文介绍了在MXNet中如何自定义目标函数，特别是在深度学习应用中处理未标注样本的情况。通过继承operator.NumpyOp类，定义forward和backward方法来实现自定义的loss layer，并详细说明了infer_shape的必要性。在模型训练和加载过程中，由于MXNet对纯Python+Numpy定义的layer支持限制，需要特殊处理加载模型的问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

自定义目标函数是深度学习应用中经常需要的操作。MXNet中可以直接使用Python+Numpy定义新的目标函数，比较方便。下面简单举个例子。

目标

由于手头上的训练集有些样本没有标注（没有标注的label设定为-1），在进行linear regression的时候想去掉这些标注，注意，这里不是去掉样本，只是做back propogation的时候对这些标注的error 返回为0 （即相应返回的gradient为0）。因此需要实现一个自定义的loss layer。

loss layer定义

loss layer的定义包括几个工作：

继承operator.NumpyOp类
定义方法：list_argument, list_output。这里由于是loss layer,输入就是data 和label，输出是output。无需改变。
infer_shape 方法：定义label和data数组的shape，代码里有相应的注释。这里读者可能会问，为什么还要定义呢？不是输入的label和data已经有了吗？考虑这样一个问题：对于softmax, 做1000类分类，虽然输入的维度是1000，可是输出的维度是1。而对于1000维的线性回归问题，输入1000，输出也是1000。因此需要在代码里手动定义。
定义forward和backward方法。这里就是实现目标函数逻辑的部分了。需要注意的是输入参数的含义。下面代码的注释里给出了每个参数具体的说明。

class LinearRegMissingLabel(mx.operator.NumpyOp):
    def __init__(self):
        super(LinearRegMissingLabel, self).__init__(False)

    def

最低0.47元/天解锁文章