普渡大学提出轻量级特征交互算法deeplight大幅加速ctr预估在线服务(已开源)

DeepLight: Deep Lightweight Feature Interactions for Accelerating CTR Predictions in Ad Serving

Wei Deng, Junwei Pan, Tian Zhou,Deguang Kong, Aaron Flores, Guang Lin

Purdue University, Yahoo Research, Google,Inc

https://arxiv.org/pdf/2002.06987.pdf

 

 

点击率预估在在线展示广告中非常重要。基于embedding的神经网络可以利用浅层结构来学习精确的特征交互,深层神经网络可以学习深层次的特征交互。

 

这些比较成熟的模型,会降低预估推理的速度,至少会降低几百倍。为了解决显著增加的服务延迟,并且为了保证在生产环境中在线广告的内存利用率更高,这篇文章提出DeepLight,该框架可以在三方面加速ctr预估。一,通过在浅层结构中精确搜索信息量更大的特征交互来加速模型推理,二,在深层结构中,从层内和层间对冗余的层和冗余的参数进行剪枝,三,促使embedding层的稀疏性,进而保持最有判别性的信息。

 

这三方面叠加起来,作者们所提方法在不损失预测准确性的前提下,在criteo和avazu数据集上模型的推理速度分别提升46倍和27倍。

 

这为在生产环境中部署复杂的用于在线广告的基于embedding的神经网络奠定了基础。

目前ctr预估中,主流模型有以下几个

线上服务中的要求及挑战如下

deepfm跟作者们所提模型结构对比如下

deepfwfm的每个结构图示如下

作者们所提模型的主要贡献如下

作者们所提模型的主要创新在于

几种模型的计算复杂度对比如下

作者们所作的结构剪枝主要包含以下三种

deeplight结构示意图如下

deeplight有以下三个特性

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
simply learn与普渡大学及IBM合作推出的人工智能和机器学习研究生课程具有许多优势和特点。 首先,该课程由普渡大学和IBM的专业团队共同开发。普渡大学在计算机科学和人工智能领域具有卓越的声誉和专业知识,而IBM作为全球领先的技术公司,拥有丰富的实践经验和人工智能技术的最新发展。这种合作保证了课程的学术严谨性和行业相关性,能够使学生获得最新的学术研究成果和实际应用知识。 其次,该课程涵盖了广泛的人工智能和机器学习领域的内容。学生将学习到从基础理论到实际应用的全方位知识,包括机器学习算法、数据挖掘、深度学习、自然语言处理等。这些知识将帮助学生全面掌握人工智能和机器学习的核心概念和技术,并能够将其应用于解决实际问题。 第三,该课程采用了灵活多样的学习方式。学生可以选择线上自学或线下参与讲座、研讨会和实践项目等形式进行学习。这种灵活性使得学生可以根据自己的时间和学习习惯进行自主学习,同时也提供了与同行交流和合作的机会,促进了学习效果的提升。 第四,通过该课程,学生还可以获得普渡大学和IBM的认可证书,这对于学生的职业发展和就业竞争力有很大的帮助。普渡大学的声誉和认可度可以增加学生在就业市场上的竞争力,而IBM作为全球知名企业的认可证书更是对学生能力的认可和证明。 总之,simply learn与普渡大学和IBM合作的人工智能和机器学习研究生课程提供了学术严谨、行业相关的内容,灵活多样的学习方式以及受认可的证书,为学生提供了一个综合性、高质量的学习机会,帮助他们在人工智能和机器学习领域取得成功。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值