美文网首页
请手动写出wordcount的spark代码实现

请手动写出wordcount的spark代码实现

作者: scott_alpha | 来源:发表于2019-10-01 22:35 被阅读0次
    val conf = new SparkConf().setMaster("local[6]").setAppName("wordCount")
    val sc = new SparkContext(conf)
    sc.textFile("/input")
      .flatMap(_.split(" "))
      .map((_,1))
      .reduceByKey(_+_)
      .saveAsTextFile("/output")
    sc.stop()

    相关文章

      网友评论

          本文标题:请手动写出wordcount的spark代码实现

          本文链接:https://www.haomeiwen.com/subject/tiklpctx.html