红色高亮的方法表示它们属于参数高效微调的量化方法(Q-PEFT:Quantization for Parameter-Efficient Fine-Tuning),绿色高亮的方法表示它们属于与量化感知训练(QAT:Quantization-Aware Training)相关的方法,其他方法则属于基于PTQ(Post-Training Quantization)的方法。
https://arxiv.org/pdf/2402.16363.pdf
红色高亮的方法表示它们属于参数高效微调的量化方法(Q-PEFT:Quantization for Parameter-Efficient Fine-Tuning),绿色高亮的方法表示它们属于与量化感知训练(QAT:Quantization-Aware Training)相关的方法,其他方法则属于基于PTQ(Post-Training Quantization)的方法。
https://arxiv.org/pdf/2402.16363.pdf