阅读背景:

spark on yarn作业运行的jar包缓存优化

来源:互联网 
这几天一直在追查spark on yarn的作业运行中的jar包分发,以及执行后的jar包删除的问题。从一开始的毫无头绪,到后来逐渐清晰,到后来通过hadoop的两个很简单的参数配置解决了问题。不得不说,虽然问题不大,对某些大牛们来说也真是小case,但是追查问题,定位问题到最终解决问题的过程,对我来说真是很不错的体验和学习过程。下面详细描述一下遇到的问题,以及解决的过程,给后面的同学一点参考。这几天一直在追查spark on yarn的作业运行中的jar包分发,以及执行后的jar包删除的问题


你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: