PyTorch 被大量网友反馈，TorchRec 这一新库“诞生”且规模宏大

最新推荐文章于 2024-08-12 09:02:36 发布

大工艺

最新推荐文章于 2024-08-12 09:02:36 发布

阅读量1.5k

点赞数 1

文章标签： pytorch 人工智能深度学习

本文链接：https://blog.csdn.net/m0_66862559/article/details/123187860

版权

Meta推出了TorchRec，一个用于推荐系统的PyTorch库，旨在解决RecSys领域的通用化问题。该库提供了稀疏性和并行性原语，支持构建和部署大规模个性化模型。TorchRec已用于训练1.25万亿和即将部署的3万亿参数模型，解决了大规模嵌入分片的挑战，为RecSys研究和工业应用提供先进基础设施。

摘要由CSDN通过智能技术生成

作者 | Meta AI - Donny Greenberg

编译 | 张洁

责编 | 屠敏

近日，Meta 宣布了 TorchRec，一个用于推荐系统的 PyTorch 库。这个新库提供了通用的稀疏性和并行性原语，使研究人员能够构建最先进的个性化模型并将其部署到生产中。

PyTorch 被吐槽，正式发布推荐系统库 TorchRec

之所以会有 TorchRec 的出现，是因为 RecSys (推荐系统) 包含很多成熟的 AI 技术，程序员一般不会通过GitHub去了解它。与 Vision 和 NLP 等领域不同，RecSys 的大部分开发都是在公司秘密进行的。对于相关研究人员或构建个性化用户体验的公司而言，该领域没有实现通用化。

此外，RecSys 作为一个领域，很大程度上是由顺序事件（一组依次执行的指令，通常在屏幕上从上到下或从左到右）上的学习模型定义的，这与 AI 的其他领域有很多的重叠。许多技术是可迁移、可扩展和可分布式执行的。

到 2020 年年中，PyTorch 团队收到了大量的反馈，称开源 PyTorch 生态系统中还没有大规模的推荐系统包。当研究人员试图找到一个好的方法时，Meta 的一组工程师希望将 Meta 生产的 RecSys 堆栈作为 PyTorch 库贡献出来，并致力于围绕它发展一个新的生态系统。这似乎是一个让 RecSys 领域的研究人员和公司受益的好主意。

从企业的角度来看， Meta 公司开始了软件堆栈，研究人员也开始模块化并设计一个完全可扩展的代码库。目标是从 Meta 的软件堆栈中提取关键模块，方便同时实现创造性扩展。经过近两年的跨 Meta 基准测试和迁移，终于与 RecSys 社区一起带来了 TorchRec。