美文网首页
【Spark 自定义UDF】

【Spark 自定义UDF】

作者: 热血趁年华 | 来源:发表于2018-09-26 10:07 被阅读0次

    在sparksql中使用udf,比较简单,先在spark中自定义udf算子函数,然后进行注册,之后再sql中就可以直接使用该udf

    val len = udf{(str:String) => str.leng}

    sparkContext.udf.register("len",len)

    val  ds = spark.read.json("file:///opt/five.json")

    ds.createOrReplaceTempView("temp")

    ds.show()

    spark.sql("select len(name) from temp where age >25")

    相关文章

      网友评论

          本文标题:【Spark 自定义UDF】

          本文链接:https://www.haomeiwen.com/subject/cscdoftx.html