zhaosuyuan的博客

Seq2Seq，自回归，自编码

LLM token和embedding介绍

大模型训练与优化步骤：预训练、微调、对齐1. 指令微调：LoRA、QLoRA、AdaLoRa、DoRA、LoftQ、GaLore、Mixture of LoRAs、Quantization2. 对齐技术：DPO、KTO、IPO、SimPO、RLHF3. 量化技术：GPTQ、SmoothQuant、AWQ、GGUF、ZeroQuant4. 多模态技术：MoE-LLaVA、Mini-Gemini、VideoLLaMA25. 其他微调技术：Prefix Tuning、Adaptor Tuning、Flas

yoloworld训练自定义数据集

【代码】labelme自动标注工具的安装和代码修改。

文生视频模型 Sora