LLaVA想用机器生成高质量指令的背景

背景等相关方法：

大型语言模型（LLM）表明

语言可以发挥更广泛的作用：

通用助手的通用接口，

各种任务指令

可以用语言明确表示

并指导端到端训练有素的神经助手

切换到感兴趣的任务来解决它。

---

例如，

最近 ChatGPT 和 GPT-4 的成功

证明了对齐 LLM 在遵循人类指令方面的力量，

并激发了人们对开发开源 LLM 的极大兴趣。

这话都是2023年的，没什么意思。

---

LLaMA

其中，

LLaMA是一个与 GPT-3 性能相匹配的开源 LLM。

---

Alpaca、Vicuna、GPT-4-LLM

利用各种机器生成的高质量指令

跟随样本

来提高 LLM 的对齐能力，

与专有 LLM 相比，

报告了令人印象深刻的性能。

关键在哪里？关键在，机器生成的高质量指令。

---

重要的是，这行工作是纯文本的。

---