美文网首页
提交spark程序

提交spark程序

作者: 扣篮的左手 | 来源:发表于2018-06-07 08:16 被阅读0次
    1. 普通模式提交任务

    前提是知道集群当中或者的master所在的位置。
    注意运行下边命令的时候所在路径是spark的根路径。

    bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://node-1:7077 \
    --executor-memory 1G \
    --total-executor-cores 2 \
    examples/jars/spark-examples_2.11-2.0.2.jar \
    10
    
    1. 高可用模式提交
      在master spark后边的列表里查找master
    bin/spark-submit \
    --class org.apache.spark.examples.SparkPi \
    --master spark://node-1:7077,node-2:7077,node-3:7077 \
    --executor-memory 1G \
    --total-executor-cores 2 \
    examples/jars/spark-examples_2.11-2.0.2.jar \
    10
    

    相关文章

      网友评论

          本文标题:提交spark程序

          本文链接:https://www.haomeiwen.com/subject/bfswsftx.html