- 博客(1)
- 收藏
- 关注
RSS订阅原创 T-MAC在Windows(64)上的部署推理
T-MAC是微软研究院提出的一种创新方法，通过查表法（LUT）在CPU上实现低比特LLM（即权重量化LLM）的高效推理本文是初学者根据官方文档和网络资料调通T-MAC的过程以及遇到的问题
2024-12-15 17:31:33
1657
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人