- 博客(6)
- 收藏
- 关注
原创 AWQ介绍,构思 - PTQ简史(二)
AWQ基于激活值保留量化模型, 绕开了校准数据等PTQ模型量化诸多问题。并且在速度和性能上AWQ也取得了更多的进步,比如量化模型的内核聚合,SIMD-CPU高效利用等。尽管AWQ取得了必要的成功,然而关于AWQ性能实验的充分性,仍然值得更深层次的探索。
2024-04-29 00:37:25
1291
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人