雅虎如何在Hadoop集群上实现大规模分布式深度学习

过去十年中，雅虎在Apache Hadoop集群构建和扩展方面投入了很大的精力。目前，雅虎有19个Hadoop集群，其中包含4万多台服务器和超过600PB的存储。他们在这些集群上开发了大规模机器学习算法，将Hadoop集群打造成了雅虎首选的大规模机器学习平台。近日，雅虎Big ML团队的Cyprien Noel、Jun Shi和Andy Feng撰文介绍了雅虎在Hadoop集群上构建大规模分布式深度学习的实践。

\\

深度学习（DL）是雅虎的许多产品都需要的功能。比如，Flickr的场景检测、对象识别、计算审美等功能均依赖于深度学习。为了使更多产品从机器学习中受益，他们最近将DL功能引入到了Hadoop集群本地。在Hadoop上进行深度学习主要有以下好处：

\\

• 深度学习直接在Hadoop集群上执行，可以避免数据在Hadoop集群和单独的深度学习集群之间移动；\\
• 同Hadoop数据处理和Spark机器学习管道一样，深度学习也可以定义为Apache Oozie工作流中的一个步骤；\\
• YARN可以与深度学习很好地协同，深度学习的多个实验可以在单个集群上同时进行。与传统方法相比，这使得深度学习极其高效。\

DL on Hadoop是一种新型的深度学习方法。为了实现这种方法，雅虎主要做了如下两个方面的工作：

\\

• 增强Hadoop集群：他们向Hadoop集群添加了GPU节点。每个节点有4个Nvidia Tesla K80卡，每个卡有2个GK 210 GPU。这些节点的处理能力是传统商用CPU节点的10倍。GPU节点有两个独立的网络接口Ethernet和Infiniband。前者作为外部通信接口，后者速度要快10倍，用于连接集群中的GPU节点以及为通过RDMA直接访问GPU内存提供支持。借助YARN最新推出的节点标记功能，可以在作业中指定容器是在CPU上运行还是在GPU上运行。\\
• 创建Caffe-on-Spark：这是他们基于开源软件库Apache Spark和Caffe创建的一个分布式综合解决方案。借助它，通过几条简单的命令就可以将深度学习作业提交到GPU节点集群，并且可以指定需要启动的Spark executor进程数量、分配给每个executor的GPU数量、训练数据在HDFS上的存储位置以及模型的存储路径。用户可以使用标准的Caffe配置文件指定Caffe solver和深层网络拓扑。Spark on YARN会启动指定数量的executor，每个executor会分得一个HDFS训练数据分区，并启动多个基于Caffe的训练线程。\

上述工作完成后，他们在两个数据集上对该方法进行了基准测试。在ImageNet 2012数据集上的测试显示，与使用一个GPU相比，使用4个GPU仅需要35%的时间就可以达到50%的准确度。而在GoogLeNet数据集上的测试表明，8个GPU达到60% top-5准确度的速度是1个GPU的6.8倍。

\\

这说明他们的方法是有效的。为了使Hadoop集群上的分布式深度学习更加高效，他们计划继续在Hadoop、Spark和Caffe上的投入。

\\

雅虎已经将部分代码发布在GitHub上，感兴趣的读者可以进一步了解

\\

---

感谢郭蕾对本文的审校。

\

给InfoQ中文站投稿或者参与内容翻译工作，请邮件至editors@cn.infoq.com。也欢迎大家通过新浪微博（@InfoQ，@丁晓昀），微信（微信号：InfoQChina）关注我们，并与我们的编辑和其他读者朋友交流（欢迎加入InfoQ读者交流群）。