书籍-《大规模深度学习：硬件、软件与数据的交汇点》_数据

编辑：陈萍萍的公主@一点人工一点智能

书籍：Deep Learning at Scale: At the Intersection of Hardware, Software, and Data

作者：Suneeta Mall

出版：O'Reilly Media

01 书籍介绍

将深度学习项目大规模投入生产是一项极具挑战性的任务。为了成功扩展您的项目，您需要深入理解全栈深度学习的各个方面，这包括硬件、软件、数据和算法交叉领域的知识。

本书详细阐述了全栈深度学习的复杂概念，并通过动手实践来强化这些概念，为您提供扩展项目所需的工具和技术。有效的扩展努力必须兼顾效率和效果。为此，本指南将解析那些助您高效且有效地进行扩展的精细概念和技术。

您将获得以下全面理解：

· 数据如何流经深度学习网络，以及计算图在构建模型中的关键作用。

· 加速计算如何加快训练速度，以及如何最有效地利用现有资源。

· 如何使用分布式训练范式（即数据并行、模型并行和管道并行）来训练模型。

· 如何结合PyTorch生态系统、NVIDIA库和Triton来扩展模型训练。

· 调试、监控和调查阻碍模型训练速度的不良瓶颈。

· 如何加快训练周期并优化反馈循环，以迭代模型开发。

· 一系列数据处理技巧和方法，以及如何将它们应用于扩展训练模型。

· 如何为您的深度学习项目选择合适的工具和技术。

· 在大规模运行时管理计算基础设施的选项。

通过本书的学习，您将能够掌握扩展深度学习项目的关键要素，从而在实践中更加得心应手。

02 作者简介

Suneeta Mall热衷于运用工程、数据、科学和机器学习解决现实世界的问题。在学术上，苏尼塔拥有悉尼大学应用科学博士学位，并具备计算机科学工程背景。在职业领域，她深耕IT行业，同样热衷于运用工程、数据、科学和机器学习解决现实问题。她拥有丰富的分布式、可扩展计算和机器学习经验。目前，她领导着一家由临床医生主导的人工智能医疗技术公司的AI工程部门，致力于解决当今医疗领域导致诊断不公的一些重大问题。

她坚信终身学习的重要性，并热衷于知识分享。同时，她还是O'Reilly的签约作者，在业余时间撰写儿童书籍和技术博客。Suneeta深感需要更多书籍来激发孩子们的好奇心，鼓励他们提出问题并坚持不懈地探索答案。

03 书籍大纲

书籍-《大规模深度学习：硬件、软件与数据的交汇点》_深度学习_02