美文网首页
spark monitor

spark monitor

作者: xncode | 来源:发表于2017-08-14 11:33 被阅读0次

    webui metrics 外部设施 都可以用来监控spark应用的运行

    每一个sparkcontext可以启动一个webui,默认是在4040端口,如果是有多个sparkcontext运行,会依次延后绑定4041 4042

    注意该界面只有在应用运行的时候才有,如果想要持久化的日志记录,需要在启动之前配置spark.eventLog.enabled来保持持久化的日志。

    可以启动spark的history server来在应用结束后仍可获得webui

    ./sbin/start-history-server.sh
    

    默认查看端口为18080

    相关文章

      网友评论

          本文标题:spark monitor

          本文链接:https://www.haomeiwen.com/subject/vlxurxtx.html