![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习推荐系统实战
文章平均质量分 97
likewind1993
专注在线推理,高性能计算方向;做对的事情,坚持
展开
-
【深度学习推荐系统 工程篇】三、浅析FastTransFormer看 GPU推理优化 思路
对于稀疏参数的存储/IO,在上一篇有提及,这篇是想总结下本篇借助分析FasterTransformer框架,看Transformer在工程落地中需要做什么样的优化,然后总结一些通用的优化思路。原创 2023-09-24 21:21:34 · 703 阅读 · 0 评论 -
【深度学习推荐系统 工程篇】二、从TF-Serving看生产环境的模型推理服务
TF-Serving仅支持 saved_model.pb格式,其他深度学习框架在在线推理的场景下,也有相应的解决方案(如ONNXRuntime等)。从本质上讲,模型数据仅仅保存了训练得到的参数,理论上只需要模型服务实现了读取格式协议,然后推理时正确使用即可。TB级别(超过单机规格)的模型如何上线服务如何做增量更新在线如何对模型结构进行优化等等,要解决上述的问题,一般需要根据业务场景和服务框架 自定义模型格式。这篇主要是以TF-Serving为基础,简单介绍了生产环境中模型推理服务所面临的问题。原创 2023-07-02 22:50:01 · 877 阅读 · 0 评论 -
【深度学习推荐系统 理论篇】一、Wide & Deep Learning for Recommender Systems
在搜广推业务做了3年工程,最近终于有空整理下,完整的梳理下自己的知识架构(预计分为理论篇/工程篇)Wide & Deep论文链接:https://arxiv.org/abs/1606.07792另外王喆老师《深度学习推荐系统》中,"3.6 Wide&Deep模型——记忆能力和泛化能力的综合”一节中对 Wide & Deep模型有比较详细解释(结合书中对模型的发展的迭代,可以对深度学习有更深层次的了解)阅读本文后,希望读者可以:1. 了解Wide & Deep 应用的场景及解决的问题。原创 2023-06-23 01:23:58 · 639 阅读 · 0 评论