美文网首页
Spark Core 性能调优之使用广播变量

Spark Core 性能调优之使用广播变量

作者: iiiiiiiioooooo | 来源:发表于2017-08-22 16:08 被阅读0次

操作场景

Broadcast(广播)可以把数据集合分发到每一个节点上,Spark任务在执行过程中要使用这个数据集合时,就会在本地查找Broadcast过来的数据集合。如果不使用Broadcast,每次任务需要数据集合时,都会把数据序列化到任务里面,不但耗时,还使任务变得很大。

        1、每个任务分片在执行中都需要同一份数据集合时,就可以把公共数据集Broadcast到每个节点,让每个节点在本地都保存一份。

        2、大表和小表做join操作时可以把小表Broadcast到各个节点,从而就可以把join操作转变成普通的操作,减少了shuffle操作。

操作步骤

在开发应用程序时,添加如下代码,将“testArr”数据广播到各个节点。

def main(args: Array[String]) {

    ...

    val testArr: Array[Long] = new Array[Long](200)

    val testBroadcast: Broadcast[Array[Long]] = sc.broadcast(testArr)

    val resultRdd: RDD[Long] = inpputRdd.map(input => handleData(testBroadcast, input))

    ...

}

def handleData(broadcast: Broadcast[Array[Long]], input: String) {

    val value = broadcast.value

    ...

}

相关文章

网友评论

      本文标题:Spark Core 性能调优之使用广播变量

      本文链接:https://www.haomeiwen.com/subject/heyldxtx.html