美文网首页
spark提交作业参数

spark提交作业参数

作者: scott_alpha | 来源:发表于2019-10-01 23:16 被阅读0次

    Spark提交参数说明和常见优化
    [https://blog.csdn.net/gamer_gyt/article/details/79135118
    1.在提交任务时的几个重要参数
    executor-cores:每个executor使用的内核数,默认为1
    num-executors:启动executors的数量,默认为2
    executor-memory:executor内存大小,默认为1G
    driver-cores:driver使用内核数,默认为1
    driver-memory:driver内存大小,默认为512M
    2.提交任务的样式
    /usr/local/spark/bin/spark-submit
    --master local[5]
    --driver-cores 2
    --driver-memory 8g
    --executor-cores 4
    --num-executors 10 \
    --executor-memory 8g
    --class cn.spark.sparktest.core.WordCountCluster
    --name "Spark job Name"
    Input Path
    OutputPath

    相关文章

      网友评论

          本文标题:spark提交作业参数

          本文链接:https://www.haomeiwen.com/subject/jbrlpctx.html