OpenAI 转录了超过100万小时的 YouTube 视频来训练 GPT-4

据《纽约时报》报道，OpenAI 公司迫切需要大量训练数据，为此开发了 Whisper  音频转录模型来克服困难，转录了超过100万小时的 YouTube 视频来训练其最先进的大型语言模型 GPT-4。

该公司知道这在法律上存在问题，但相信这是合理使用。OpenAI 总裁格雷格·布罗克曼亲自参与了所使用视频的收集。

OpenAI 发言人表示，该公司为其每个模型策划了“独特”的数据集，以“帮助他们了解世界”并保持其全球研究竞争力。并补充说，该公司使用“众多来源，包括公开数据和非公开数据的合作伙伴”，并且正在考虑生成自己的合成数据。

据报道，该公司在2021年耗尽了有用的数据供应，并在耗尽其他资源后讨论了转录 YouTube 视频、播客和有声读物。