2.配置Hadoop日志的聚集

作者: lovefo | 来源:发表于2018-12-04 15:35 被阅读0次

1.日志聚集的概念

应用运行完成以后，将程序运行日志信息上传道hdfs系统上。

2.日志聚集功能的好处

可以方便的查看程序的运行情况，方便开发调试

注意
开启日志聚集功能需要重新启动NodeManage、ResourceManager、HistoryManager。
关闭nodeManager(sbin目录下)：yarn-daemon.sh stop nodemanager
关闭resourcemanager：yarn-daemon.sh stop resourcemanager
关闭historymanager:mr-jobhistory-daemon.sh stop historyserver

3.具体步骤如下

配置yarn-site.xml，在该文件中添加如下配置

<!--日志聚集功能使用-->
<property>
    <name>yarn.log-aggregation-enable</name>
    <value>true</value>
</property>

<!--日志保留时间设置，需把时间换成秒-->
<property>
    <name>yarn.log-aggregation.retain-seconds</name>
    <value>604800</value>
</property>