- 博客(1)
- 收藏
- 关注
转载 Transformer~72
探讨总结当下常用的大型 transformer 效率优化方案。大型 Transformer 模型如今已经成为主流,为各种任务创造了 SOTA 结果。诚然这些模型很强大,但训练和使用起来代价非常昂贵。在时间和内存方面存在有极高的推理成本。概括来说,使用大型 Transformer 模型进行推理的难点,除了模型的规模不断扩大外...
2024-07-26 02:27:34
5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人