特征交叉03 LHUC (PPNet)

最新推荐文章于 2025-03-10 11:37:52 发布
最新推荐文章于 2025-03-10 11:37:52 发布
阅读量753 收藏 1
点赞数 1
分类专栏： 推荐系统 文章标签： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DEVIL_hym/article/details/143155632
版权

LHUC 只能用于精排。

多目标模型中的神经网络可以用全连接网络 、深度交叉网络 或者LHUC等。

语音识别中的LHUC

说话者的特征, 例如id 做embadding 。LHUC中出现的神经网络有多个全连接层，最后一个全连接层的激活函数是sigmoid *2，单独作用到每一个元素上，从而输出向量的元素都介于0-2之间。

这样的变化，会放大某些特征，缩小另一些特征，实现个性化。

两个输出向量的形状必须一致。

推荐系统排序模型中的LHUC

快手ppnet模型
zhangwl27的专栏
08-24 1828
参考
工业界真实的推荐系统(小红书)-特征交叉：FM、DCN、LHUC、SENet、FiBiNet
qq_17065591的博客
03-14 2072
王树森老师的硬核课程，由于PPT很多，并且老师的很多经验是口述，没有写在PPT里，网上有一些网友的笔记，但不是很完整，学习起来也比较费事，所以我自己整理了120页的PPT（这里放的是截图），期望能比较完整地把老师的经验呈现出来，同时缩短学习时间。课程特点：系统、清晰、实用，原理和落地经验兼具。
多任务建模之PPNet
热门推荐
weixin_38381682的博客
10-11 1万+
多任务ppnet网络结构
小红书推荐系统
weixin_44901348的博客
09-17 1563
FM是线性模型的替代物，线性回归、逻辑回归都可以用FMFM使用二阶交叉特征，表达能力比线性更强矩阵自相乘代替二阶交叉权重数量，从O(dd) 将为O(dk)目前推荐系统中不太常用日活用户数（DAU）和留存是最核心的指标工业最常用LT7和LT30衡量留存某用户今天(t0)登录了app，蔚来7天（t0-t6）中有4天登录app，那么用户今天（t0）的LT7等于4LT增长通常译为用户体验提升（除非lLT增长且DAU下降）其他核心指标：用户使用时长、总阅读数、总曝光数。
推荐系统学习8
最新发布
qq_45443108的博客
03-10 258
特征交叉，在召回和排序中都会用到如果d比较小，二阶交叉没有问题，但如果d很大，计算代价太大，而且容易出现overfiting。
（9）工业界推荐系统-小红书推荐场景及内部实践【排序模型】
Pain is inevitable but suffering is optional.
07-11 1024
（1）工业界推荐系统-小红书推荐场景及内部实践【业务指标、链路、ItemCF】 （2）工业界推荐系统-小红书推荐场景及内部实践【UserCF、离线特征处理】 （3）工业界推荐系统-小红书推荐场景及内部实践【矩阵补充、双塔模型】 （4）工业界推荐系统-小红书推荐场景及内部实践【正负样本选择】 （5）工业界推荐系统-小红书推荐场景及内部实践【线上召回和模型更新】 （6）工业界推荐系统-小红书推荐场景及内部实践【其他召回通道】 （7）工业界推荐系统-小红书推荐场景及内部实践【冷启动问题1】 （8）工业界推荐系统-
LHUC 模型内部差异化
心之所向
08-08 1万+
对于一个混合多种数据源的训练模型，不同数据源肯定存在着差异性，如果将这种差异性反映到模型中。LHUC试图利用将这些差异性插入对模型的NN中，从而对NN进行调整。 Learning Hidden Unit Contributions for Unsupervised Acoustic Model Adaptation 超越Google 快手落地业界首个万亿参数推荐精排模型 ...
【推荐系统】wss课程-特征交叉
littlemichelle
08-07 821
总结：工业界推荐的精排模型全都是pointwise
PEPNet：融合个性化先验信息的多场景多任务网络
这个人很懒，没有写简介
01-05 2819
在多目标的建模过程中，如果不同的学习任务之间较为相关时，多个任务之间可以共享一部分的信息，这样最终能够提升整体的模型学习效果。但是如果多个任务之间的相关性并不强，或者说多个任务之间存在某种冲突，一个任务指标的提升可能伴随着另外一些任务指标的下降，造成多任务之间的跷跷板（task seesaw）。如果每个场景、每个任务都训练一个独立的模型，当场景、任务很多的时候成本太高，还影响迭代效率，同时也没有充分利用所有的数据，导致训练得到的模型实际上不是最优的。输入和输出的维度一致，用来衡量各个维度的重要性。
动态权重：推荐算法的新范式
Kaiyuan_sjtu的博客
04-28 4332
前言设计范式（Design Pattern）是各位码农都应该熟悉的概念。Design Pattern针对软件开发普遍存在的各种问题，提出可复用解决方案。同时，Design Pattern也为程序员之间的交流提供了共同语言。比如，我说我的程序采用了Template Method模式，其他程序员就能对我的程序结构猜个八九不离十。其实，在我们设计推荐算法模型的时候，也有很多设计...
人工智能|推荐系统——工业界的推荐系统之交叉
也许有一天我们再相逢 睁开眼睛看清楚 我才是英雄！
05-06 454
SENet 对离散特征做field-wise加权，如果有𝑚 个fields，那么权重向量是𝑚 维。FiBiNet可以理解为同时考虑了SENet 结合 Field 间特征交叉。之前提到过的召回、排序模型中的神经网络可以用任意网络结构；LHUC起源于语⾳识别，快⼿将LHUC应⽤在推荐精排，称作PPNet。深度交叉网络就是两个分支，一边是全连接，一边是交叉网络。线性模型预测是特征的加权和。交叉网络就是多个交叉层串起来的网络。可以通过矩阵分解减少模型参数量。Field 间特征交叉。
PPNET电子商务建设方案.docx
11-21
【PPNET电子商务建设方案】 PPNET电子商务建设方案主要聚焦于利用Oracle公司的技术和产品构建一个全面、安全且高效的电子商务平台，以适应21世纪的商业环境。Oracle电子商务解决方案旨在为中国生产力信息网及其关联...
ppnet.rar_源码
09-21
标题 "ppnet.rar_源码" 暗示我们正在处理一个与P2P（对等网络）相关的源代码库，可能是一个名为 "ppnet" 的项目。在P2P网络中，节点直接互相通信，而不是通过中心服务器，这使得它们在分布式系统中特别有用。...
第四章 特征交叉（王树森学习笔记）
weixin_64420349的博客
01-11 880
我们用一个现实的例子来理解，比如我们要预估一个二手房的价格，单用面积和地理位置都不能很好的预测结果，将两个特征交叉之后会有较准确的预测。不论是内积or哈达玛积，都要求每个特征的embedding向量形状一样，都是k维向量；因此在实践中，最好人工指定一部分特征做交叉，这样既可以减少参数数量，也可以让concatenation之后的向量变小。，对m^2个向量做concatenation，得到的向量维度太大，且其中大多数都是无意义的特征。用特征交叉的话，两个特征不仅能相加，还能相乘，这样可以提升模型的表达能力。
论文解读：点击率模型特征交叉CAN模型
ybjlucky的博客
02-23 3865
特征交叉算法CAN
特征交叉DCN与LHUC
别说话写代码的博客
05-02 1484
推荐算法特征交叉，DCN是一种特征交叉方法，从网络结构改变，召回双塔，粗排，精排都能用到。LHUC只能用于精排
图像分割（四）：模型（PSPNet）
米之炼金术师的博客
04-22 1508
文章目录三、图像分割的模型7.PSPNet 三、图像分割的模型 7.PSPNet 原论文（CVPR 2017 v2） 这个模型最核心的贡献就是提出了全局金字塔池化模块：Pyramid Pooling Module（一个不同尺度的pooling模块），其能够融合不同尺度的上下文信息，提高获取全局特征信息的能力，增加了模型的表现力。 模型结构为： 模型的工作流程为： 输入图像 CNN提取特征（带...
牛亚男：基于多Domain多任务学习框架和Transformer，搭建快精排模型
DataFun_Hoh的博客
06-18 654
导读： 本文主要介绍了快手的精排模型实践，包括快手的推荐系统，以及结合快手业务展开的各种模型实战和探索，全文围绕以下几大方面展开： 快手推荐系统 CTR模型——PPNet 多domain多任务学习框架 短期行为序列建模 长期行为序列建模 千亿特征，万亿参数模型 总结和展望 -- 01 快手推荐系统 快手的推荐系统类似于一个信息检索范式，只不过没有用户显示query。结构为数据漏斗，候选集有百亿量级的短视频，在召回层，会召回万级的视频给粗排打分，再选取数百个短视频，给精排模型打分，最后会有数十个短视频..
探索自建社交网络新天地：PPnet深度剖析与应用探索
gitblog_00005的博客
06-24 511
探索自建社交网络新天地：PPnet深度剖析与应用探索 去发现同类优质开源项目:https://gitcode.com/ 在当今社交媒体充斥的互联网世界里，是否曾渴望拥有一片独立于主流平台之外的社交净土？PPnet，一个曾经由欧洲联盟FI-CONTENT项目部分资助的开源项目，正是为此愿景而生。尽管它的维护状态已冻结在了2018年3月，但其理念和技术创新依然值得我们深入探讨，尤其是对于那些寻求数据自...
ppnet pytorch
06-25
PPNet (PyTorch PointPillars Network) 是一个用于三维物体检测（如自动驾驶中的障碍物检测）的深度学习模型。它基于 PointPillars 方法，这是一种针对点云数据的特征提取和处理方法，尤其适用于实时应用，因为它将高维的点云数据压缩到二维的柱状表示，从而降低了计算复杂度。 在 PyTorch 中实现 PPNet，你可能会用到以下关键组件和技术： 1. **Point Pillars层**：将输入的点云投影到一系列虚拟的柱状空间中，每个柱子对应于传感器的观测范围。 2. **特征编码**：对每个柱子应用卷积神经网络（CNN）或其他特征提取器，生成密集的特征图。 3. **后处理**：这些特征图通常经过进一步处理，如卷积、池化或下采样，然后可能使用全连接层（FCN）进行分类和大小预测。 4. **多任务损失**：可能包括用于分类和尺寸预测的任务特定损失函数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值