【数据湖加速篇】 —— 如何利用缓存加速服务来提升数据湖上机器学习训练速度

简介： JindoFS提供了一个计算侧的分布式缓存系统，可以有效利用计算集群上的本地存储资源（磁盘或者内存）缓存OSS上的热数据，从而减少对OSS上数据的反复拉取，消耗网络带宽。

背景介绍

近些年，机器学习领域快速发展，广泛应用于各行各业。对于机器学习领域的从业人员来说，充满了大量的机遇和挑战。Tensorflow、PyTorch等深度学习框架的出现，使开发者能够轻松地构建和部署机器学习应用。随着近些年云计算技术的不断成熟，越来越多的人接受将他们的开发、生产服务搬到云上平台，因为云环境在计算成本、规模扩展上比传统平台有显著的优势。云上平台为了达到弹性、节约成本，通常采用计算存储分离的解决方案。使用对象存储构建数据湖，可以降低成本、存储海量数据。在机器学习这个场景下，尤其适合将训练数据存储在数据湖上。

将训练数据存储在数据湖上具有以下优势：

1.不需要将数据提前同步到训练节点。传统方式，我们需要将数据提前导入到计算节点的本地磁盘。而如果将数据存储在对象存储上，我们可以直接读取数据进行训练，减少准备工作。

2.可以存储更大的训练数据，不再受限于计算节点本地磁盘大小。对于深度学习，拥有更多的数据，往往能取得更好的训练效果。

3.计算资源可以弹性扩缩容，节约成本。机器学习通常使用使用更多核数的CPU或高端GPU，较为昂贵，对象存储的成本就相对较低。将训练数据存储在数据湖上，可以与计算资源解耦。计算资源可以按需付费，随时释放，达到节省成本的目的。

然而，这种方式同时存在着一些问题和挑战：