如何用Alluxio加速云上深度学习训练？-创新互联

为石家庄等地区用户提供了全套网页设计制作服务，及石家庄网站建设行业解决方案。主营业务为网站设计制作、做网站、石家庄网站设计，以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！

欢迎来到【微直播间】，2min纵览大咖观点

随着企业数据量的不断增加，为了提高深度学习训练的准确性、加快速度并且降低成本，许多企业开始逐步在云上实施分布式训练的方案，本期内容将结合阿里、微软等实际应用案例，分享如何通过Alluxio加速云上深度学习。

内容主要围绕两个部分展开：

内容概要： Alluxio及其POSIX API简介

>>Alluxio是一个java开源项目，是云上的关于数据分析以及深度学习训练的一个数据抽象层。

>>使用Alluxio，可以对数据应用以及数据源进行无缝连接。

>>Alluxio的一个很重要功能是能够对数据进行读写缓存，另一方面也可以对元数据进行本地缓存。

>>Alluxio可以把来自不同的远端存储系统，以及分布式文件系统的数据都挂载到Alluxio统一的命名空间之内。通过Alluxio POSIX API，把这些数据变成类似于本地文件的形式，提供给各种训练任务。

使用Alluxio加速云上训练

Level 1 读取缓存与加速：直接通过Alluxio来加速对底层存储系统中的数据访问。

Level 2 数据预处理和训练：之所以有二级玩法，主要因为一级玩法有一些先决条件，要么数据已经处理好就放在存储系统中，要么训练脚本已经包含了数据预处理的步骤，数据预处理与训练同时进行，而我们发现在很多用户场景中，并不具备这些条件。

Level 3 数据抽象层：把Alluxio作为整个数据的抽象层。

以上仅为大咖演讲概览，完整内容点击视频观看

附件：大咖分享文字版完整内容可见下文

Alluxio及其POSIX API简介

Alluxio是一个java开源项目，是云上的关于数据分析以及深度学习训练的一个数据抽象层。在Alluxio之上可以对接不同的数据应用，包括Spark、Flink这种ETL工具，Presto这种query工具，以及TensorFlow、PyTorch等深度学习框架。在Alluxio下面也可以连接不同数据源，比如阿里云、腾讯云、HDFS等。

使用Alluxio，可以对数据应用以及数据源进行无缝连接，Alluxio负责处理与不同数据源以及不同系统的对接。

Alluxio的一个很重要功能是能够对数据进行读写缓存。大家可能很多数据是在云存储上，或者是在远端的HDFS和Ceph集群上，如果每一次的数据应用都要去远端不断重复地拿同样的数据，那么整个拿数据的流程是非常耗时的，而且可能会导致我们整体训练或数据处理效率不高。通过Alluxio，我们可以把一些热数据在靠近数据应用的集群进行缓存，从而提升重复数据获取的性能。

另一方面，我们也可以对元数据进行本地缓存。每一次获取元数据都要通过网络去获取是比较慢的。如果通过Alluxio，可以直接从本地集群获取元数据，延时会大大缩短。同时，模型训练的元数据需求是非常高压的，我们在与蚂蚁金服的实验中，可以看到成千上万QPS，如果全部压力都压到存储系统中，存储系统可能会不稳定，或进行一定的限流处理，导致一些读取错误。通过Alluxio可以很好地分担这部分元数据的压力。

接下来重点讲解一下Alluxio的POSIX API。

深度学习训练框架PyTorch、TensorFlow、Caffe，它们的原生数据源都是本地文件系统。企业数据量日益扩大，导致我们需要去使用分布式数据源。Alluxio可以把来自不同的远端存储系统，以及分布式文件系统的数据都挂载到Alluxio统一的命名空间之内。通过Alluxio POSIX API，把这些数据变成类似于本地文件的形式，提供给各种训练任务。

上图直观地展现了Alluxio POSIX API把远端的分布式数据变成了本地文件夹的形式。

使用Alluxio加速云上训练

下面来具体讲解如何使用Alluxio来加速云上训练。

Level 1 读取缓存与加速

一级玩法比较简单，就是直接通过Alluxio来加速对底层存储系统中的数据访问。

如上图示例，我们有一些数据存储在我们的存储系统中，它可能是已经经过数据预处理的数据，也可能是一些原始数据。我们的训练在云上的K8s集群上，与数据源之间存在一定的地理差异，获取数据存在延时。我们的训练需要重复去获取同样的数据源，在这种情况下，使用Alluxio集群，在靠近训练的集群内进行数据的缓存可以极大地提升我们获取数据的性能。

可以用简单的命令来设置数据源，以及一些安全参数，让Alluxio可以去访问这些数据源。提供了数据源地址以及安全参数之后，就可以把它挂载到Alluxio命名空间内的一个文件夹目录下面。挂载后，可以用一个命令来把所有的数据都一键地分布式加载到Alluxio当中，这样所有数据都会进行分布式的缓存，为我们的训练任务提供本地数据性能。

上图是阿里巴巴进行的一个实测，如果他们的训练通过oss Fuse直接去访问阿里云存储，整个性能可能是几百兆每秒，而通过Alluxio进行缓存后，可以达到千兆每秒。

在Microsoft，他们的场景是：训练数据全部存在Microsoft Azure里面，有超过400个任务需要从Azure读数据，并写回到Azure中。这400个任务会涉及到上千个节点，而他们的训练数据又是比较统一的。在使用Alluxio之前，他们的方案是把一份数据从Azure中不停地拷贝到上千台机器上。整个过程耗时大，并且由于任务量太大了，常常会导致Azure对他们的数据请求进行限流处理，从而导致下载失败，还要人工去恢复下载。通过使用Alluxio之后，Alluxio可以从Azure拿取一份数据，然后同样的一份数据可以供给不同的训练任务以及不同的机器，这样load一次数据，就可以进行多次读取。

在使用Alluxio之后，训练任务无需等待数据完全下载到本地就可以开始训练了。训练结束之后，也可以通过Alluxio直接写回到Azure。整个流程非常方便，并且gpu的使用率比较稳定。

Level 2 数据预处理和训练

接下来看二级玩法。之所以会有二级玩法，主要是因为一级玩法有一些先决条件，要么数据已经处理好就放在你的存储系统中，要么你的训练脚本已经包含了数据预处理的步骤，数据预处理与训练同时进行，然而我们发现在很多用户场景中，并不具备这些条件。

在很多用户的场景里，他们需要用其它方式来先对数据进行预处理，然后这部分预处理后的数据才能供给训练。比如会用Spark、Flink等大数据ETL工具来进行数据预处理，处理好的数据写到Alluxio，之后由Alluxio供给给训练集群。同时，对这部分数据可以进行备份、加速，来更快地提供给训练集群。

我们通过一个具体案例来了解这个流程。

在BOSS直聘，他们有两个任务，首先是用Spark/Flink来对数据进行预处理，之后再对这部分预处理好的数据进行模型训练。所有的中间结果和最后处理好的数据，都直接持久化到Ceph上，再由Ceph为模型训练提供数据。把中间处理结果也放到Ceph中，会给Ceph增加很多的压力。高压的模型训练给Ceph造成很大压力。当ETL工作以及训练多的时候，Ceph非常不稳定，整体性能受到影响。他们的解决办法就是把Alluxio加到Spark/Flink和模型训练之间。

Spark/Flink把中间结果写到Alluxio之中，由Alluxio来提供给模型训练。Alluxio在背后异步地把这部分数据持久化到Ceph中，以保证这些预处理好的数据不会丢失。所以无论我们的数据源是在本地还是远端，即使数据持久化的速度比较慢，也不影响我们的训练流程。并且Alluxio可以是一些单独的集群，如果ETL或training任务多的时候，可以起更多的Alluxio cluster来分担这些任务，也可以对不同的Alluxio集群进行资源分配、读写限额、权限控制等。

这个流程可以提升存储系统的稳定性，同时加速从数据预处理到训练的整个流程，并且可以用更多的Alluxio集群来应对更多的ETL或训练需求。

我们发现大家会有不同的数据预处理方式。有些用户用C++、python程序来进行数据清理、转换等数据预处理。他们使用Alluxio把原始数据从底层存储系统中加载到Alluxio的缓存内，由Alluxio提供这部分数据预处理的框架，处理好的结果再写回到Alluxio当中，模型训练就可以用这部分预处理好的数据进行训练。

Level 3 数据抽象层

Alluxio的三级玩法，就是把Alluxio作为整个数据的抽象层。