阅读背景:

【原创】大叔问题定位分享(11)Spark中对大表子查询加limit为什么会报Broadcast超时错误

来源:互联网 

当两个表需要join时,如果一个是大表,一个是小表,正常的map-reduce流程需要shuffle,这会导致大表数据在节点间网络传输,常见的优化方式是将小表读到内存中并广播到大表处理,避免shuffle+reduce;当两个表需要join时,如果一个是大表,一个是小表,正常的map-reduce流程需要shuf




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: