美文网首页
Spark 读取配置

Spark 读取配置

作者: 丹之 | 来源:发表于2018-12-30 11:16 被阅读4次

    我们知道,有一些配置可以在多个地方配置。以配置executor的memory为例,有以下三种方式:

    • spark-submit的--executor-memory选项
    • spark-defaults.conf的spark.executor.memory配置
    • spark-env.sh的SPARK_EXECUTOR_MEMORY配置
    对于spark配置。若一个配置在多处设置,则优先级如下: spark-submit --选项 > spark-defaults.conf配置 > spark-env.sh配置 > 默认值
    

    https://github.com/keepsimplefocus/spark-sourcecodes-analysis/blob/master/spark-core/%5B%E6%BA%90%E7%A0%81%E5%89%96%E6%9E%90%5DSpark%E8%AF%BB%E5%8F%96%E9%85%8D%E7%BD%AE.md

    相关文章

      网友评论

          本文标题:Spark 读取配置

          本文链接:https://www.haomeiwen.com/subject/kpqvlqtx.html