美文网首页
spark Yarn-client & Yarn-cluster

spark Yarn-client & Yarn-cluster

作者: 邵红晓 | 来源:发表于2019-10-16 14:35 被阅读0次

以下两张图说明

  • spark Yarn-cluster 模式
    1、 driver和AM在同一个container上运行,适合生产环境下使用


    image.png
  • spark Yarn-client 模式
    1、driver在提交所在的机器上运行而AM在一个container上运行,适合调试环境下使用
    2、因为driver在提交所在的机器上运行,所以会造成单机网卡流量激增


    image.png
  • spark on yarn 运行模型图


    image.png

相关文章

网友评论

      本文标题:spark Yarn-client & Yarn-cluster

      本文链接:https://www.haomeiwen.com/subject/jgxumctx.html