本书介绍
《从零构建大模型》是一本即将于今年10月底发布的书籍,github已经吸引了惊人的21.7k标星!作者是威斯康星大学麦迪逊分校的终身教授,在GitHub、油管、X上拥有大量粉丝,是一位真正的大佬。
本书免费获取地址:
在本书中,读者将从内到外了解 LLM 的工作原理。在这本富有洞察力的书中,畅销书作家 Sebastian Raschka 将指导读者逐步创建自己的 LLM,并用清晰的文本、图表和示例解释每个阶段。读者将从最初的设计和创建到在通用语料库上进行预训练,再到针对特定任务进行微调。《构建大型语言模型(从头开始)》教读者如何:规划并编码法学硕士 (LLM) 的所有部分准备适合 LLM 培训的数据集使用读者自己的数据对 LLM 进行文本分类微调应用指令调整技术确保读者的 LLM 遵循指令将预训练权重加载到 LLM 中大型语言模型 (LLM) 为 ChatGPT、Bard 和 Copilot 等尖端 AI 工具提供支持,这看起来像是一个奇迹,但它们并不是魔法。本书通过帮助读者从头开始构建自己的 LLM,揭开了 LLM 的神秘面纱。读者将获得关于 LLM 工作原理的独特而有价值的见解,学习如何评估其质量,并掌握具体的技术来微调和改进它们。读者在本书中用于训练和开发自己的小型但功能齐全的模型的过程遵循与交付 GPT-4 等大型基础模型相同的步骤。读者可以在普通笔记本电脑上开发小型 LLM,并且读者可以将其用作自己的私人助理。
内容截图