阅读背景:

Spark修炼之道(高级篇)——Spark源码阅读:第四节 Stage划分

来源:互联网 

Stage划分

在上一节中我们讲了 Spark Job的提交,在该讲中我们提到,当rdd触发action操作以后,会调用SparkContext的runJob办法,最后调用的DAGScheduler.handleJobSubmitted办法完玉成部job的提交。然后DAGScheduler依据RDD的lineage进行Stage划分,再生成TaskSet,由TaskScheduler向集群申请资源,终究在Woker节点的Executor过程当中履行Task。在上一节中我们讲了 Spark Job的提交,在该讲中我们提到,当rdd触发ac




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: