MMOE多目标学习

本文探讨了MMOE(Multi-gate Mixture-of-Experts)在多目标学习中的应用,解释了其在网络结构上的优化如何解决不同目标差异化问题。通过MMOE模型,可以在多个业务目标中实现更好的性能,尤其是在正样本稀疏的情况下。论文和实际场景优化展示了MMOE在处理大规模实时数据时的有效性,如使用不同网络结构的expert和引入公用与私有expert机制。
摘要由CSDN通过智能技术生成

(致力结合理论知识与互联网前沿应用场景,给读者全方位的收获)


摘要:

最近多目标模型越来越受到重视,特别在工业界有很好的应用。本文通过讲解MMOE的原理,并根据笔者在工作中应用MMOE的经验,来给大家引出这篇博文。


多目标模型的意义:

现实世界中,我们的业务目标往往不是单一的。
比如购物APP中,我们不仅仅希望你浏览商品,也希望你购买商品,甚至分享商品,评论商品。
比如短视频推荐,我们不单希望你看视频,也希望你点赞、评论、分享视频,还希望你能关注发布的作者。
因此多目标模型的出现,就可以让我们的场景同时服务到这些目标。于此同时,对于一些正样本稀疏的目标,多目标模型甚至可以让他们的目标实现远超预期。


为什么要使用MMOE实现多目标:

1、MMOE通过特殊的模型结构达到了一个模型实现多个目标的能力
2、MMOE通过模型结构的优化使各项目标都很好的实现
3、MMOE可以通过网络共享帮助正样本稀疏的目标更好地达成


论文标题和链接:

论文地址先供上,想硬撸原文的同学请享用:
标题:Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts
链接:https://dl.acm.org/doi/10.1145/3219819.3220007


  • 4
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值