阅读背景:

spark学习笔记6 spark的shuffle机制(有待补充)

来源:互联网 

1、shuffle的概念和具体流程

shuffle,是一个算子,表达的是多对多的依赖关系,在类MapReduce计算框架中,是连接Map阶段和Reduce阶段的纽带,即每个Reduce Task从每个Map Task产生数的据中读取一片数据,极限情况下可能触发M*R个数据拷贝通道(M是Map Task数目,R是Reduce Task数目)。通常shuffle分为两部分:Map阶段的数据准备和Reduce阶段的数据拷贝。首先,Map阶段需根据Reduce阶段的Task数量决定每个Map Task输出的数据分片数目,有多种方式存放这些数据分片。shuffle,是一个算子,表达的是多对多的依赖关系,




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: