关于hadoop分布式启动问题
本人共虚拟出三个节点即 master slave1 slave2 配置好后发现只有master可以启动那几个常规的进程,而slaves上面的datanode,nodemanager启动后马上就自动关闭了 最终通过修改配置文件解决问题,本人感觉,出现这种情况多为那四个配置有误,最终通过从已经配好的其他机群里,copy配置文件解决问题。配置文件如下。
hadoop安装方法参考
单机模式/伪分布 :http://dblab.xmu.edu.cn/blog/install-hadoop/
伪分布模式升级分布式 :https://www.aliyun.com/jiaocheng/132918.html
本人为按照上面两个安装,照着来就可以的,操作简单,重复的地方略过即可
伪分布模式2:http://dblab.xmu.edu.cn/blog/install-hadoop-cluster/
这四个配置均位于
:.../hadoop/etc/hadoop/下 (第一个hadoop为安装的hadoop所在目录)
core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://Master:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/local/hadoop/tmp</value>
<description>Abase for other temporary directories.</description>
</property>
</configuration>
hdfs-site.xml如下
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>Master:50090</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
</configuration>
yarn-site.xml如下
<?xml version="1.0"?>
<configuration>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<!-- Site specific YARN configuration properties -->
</configuration>
mapred-site.xml如下
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master:19888</value>
</property>
</configuration>
网友评论