YARN 是从 MapReduce 中分离出来的,负责资源管理与任务调度。YARN 运行于 MapReduce 之上,提供了高可用性、高扩展性。
现在来配置一下YARN
首先给配置文件 mapred-site.xml重命名:
$ mv ./etc/hadoop/mapred-site.xml.template ./etc/hadoop/mapred-site.xml
编辑配置文件mapred-site.xml和yarn-site.xml:
$ gedit ./etc/hadoop/mapred-site.xml
$ gedit ./etc/hadoop/yarn-site.xml
yarn-site.xml
启动YARN:
$ ./sbin/start-yarn.sh # 启动YARN
$ ./sbin/mr-jobhistory-daemon.sh start historyserver # 开启历史服务器,才能在Web中查看任务运行情况
查看是否启动成功:
$ jps
(注意:如果不想启动 YARN,务必把配置文件 mapred-site.xml 重命名,改成 mapred-site.xml.template,需要用时改回来就行。否则在该配置文件存在,而未开启 YARN 的情况下,运行程序会提示 “Retrying connect to server: 0.0.0.0/0.0.0.0:8032” 的错误,这也是为何该配置文件初始文件名为 mapred-site.xml.template。)
关闭YARN
./sbin/stop-yarn.sh
./sbin/mr-jobhistory-daemon.sh stop historyserver
网友评论