美文网首页
请手动写出wordcount的spark代码实现

请手动写出wordcount的spark代码实现

作者: scott_alpha | 来源:发表于2019-10-01 22:35 被阅读0次
val conf = new SparkConf().setMaster("local[6]").setAppName("wordCount")
val sc = new SparkContext(conf)
sc.textFile("/input")
  .flatMap(_.split(" "))
  .map((_,1))
  .reduceByKey(_+_)
  .saveAsTextFile("/output")
sc.stop()

相关文章

网友评论

      本文标题:请手动写出wordcount的spark代码实现

      本文链接:https://www.haomeiwen.com/subject/tiklpctx.html