模型的微调考虑

量化级别

1. 全精度 (Full Precision): 使用32位浮点数（FP32）进行存储和计算。

2. 半精度 (Half Precision): 使用16位浮点数（FP16）进行存储和计算。

3. 整数量化 (Integer Quantization): 使用8位整数（INT8）、4位整数（INT4）等来存储和计算。

4. 二值化 (Binary Neural Networks, BNNs): 权重被限制为+1或-1两个值。

微调的级别

（1）全参数微调（2）LORA（3）Q-LORA（带量化层）

DeepSpeed框架，主要解决大模型的训练和推理问题，模型大了，单个显卡不够，装不下，微软开源的，支持的就是Pytorch框架。使用DeepSpeed框架作微调，可以使用huggingface的peft的库