美文网首页
spark.master一些参数说明

spark.master一些参数说明

作者: 阿粒_lxf | 来源:发表于2018-07-10 01:18 被阅读0次

在spark的生产集群上面会配置spark.master,在这里对常用的几个配置进行简单说明
local 本地单线程
local[K] 本地多线程(指定K个内核)
local[*] 本地多线程(指定所有可用内核)
spark://HOST:PORT 连接到指定的 Spark standalone cluster master,需要指定端口。
mesos://HOST:PORT 连接到指定的 Mesos 集群,需要指定端口。
yarn-client客户端模式 连接到 YARN 集群。需要配置 HADOOP_CONF_DIR。
yarn-cluster集群模式 连接到 YARN 集群。需要配置 HADOOP_CONF_DIR。

相关文章

网友评论

      本文标题:spark.master一些参数说明

      本文链接:https://www.haomeiwen.com/subject/jqvxpftx.html