美文网首页
129、Spark核心编程进阶之yarn-client模式原理

129、Spark核心编程进阶之yarn-client模式原理

作者: ZFH__ZJ | 来源:发表于2019-01-18 09:24 被阅读0次
yarn-client模式原理.png
  1. driver在本机启动
  2. driver跟cluster manager申请资源,yarn-client,ResourceManager
  3. RM分配一个container资源,在一个NM上,启动AM(ExecutorLauncher)
  4. AM会找RM去申请资源,启动executor进程
  5. RM会分配container给AM,然后AM会拿着container去找对应的NM,去启动executor进程
  6. driver就可以给executor进程分配task,执行作业

相关文章

网友评论

      本文标题:129、Spark核心编程进阶之yarn-client模式原理

      本文链接:https://www.haomeiwen.com/subject/jdipdqtx.html