美文网首页
关于hadoop分布式启动问题

关于hadoop分布式启动问题

作者: 大道至简_6a43 | 来源:发表于2018-11-30 15:07 被阅读0次

    关于hadoop分布式启动问题

    本人共虚拟出三个节点即 master slave1 slave2 配置好后发现只有master可以启动那几个常规的进程,而slaves上面的datanode,nodemanager启动后马上就自动关闭了 最终通过修改配置文件解决问题,本人感觉,出现这种情况多为那四个配置有误,最终通过从已经配好的其他机群里,copy配置文件解决问题。配置文件如下。

    hadoop安装方法参考

    单机模式/伪分布 :http://dblab.xmu.edu.cn/blog/install-hadoop/

    伪分布模式升级分布式  :https://www.aliyun.com/jiaocheng/132918.html

    本人为按照上面两个安装,照着来就可以的,操作简单,重复的地方略过即可

    伪分布模式2:http://dblab.xmu.edu.cn/blog/install-hadoop-cluster/

    这四个配置均位于

    :.../hadoop/etc/hadoop/下  (第一个hadoop为安装的hadoop所在目录)

                                         core-site.xml

    <?xml version="1.0" encoding="UTF-8"?>

    <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

    <configuration>

    <property>

    <name>fs.defaultFS</name>

    <value>hdfs://Master:9000</value>

    </property>

    <property>

    <name>hadoop.tmp.dir</name>

    <value>file:/usr/local/hadoop/tmp</value>

    <description>Abase for other temporary directories.</description>

    </property>

    </configuration>

                                                  hdfs-site.xml如下

    <?xml version="1.0" encoding="UTF-8"?>

    <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

    <configuration>

    <property>

    <name>dfs.namenode.secondary.http-address</name>

    <value>Master:50090</value>

    </property>

    <property>

    <name>dfs.replication</name>

                    <value>1</value>

            </property>

    <property>

    <name>dfs.namenode.name.dir</name>

                    <value>file:/usr/local/hadoop/tmp/dfs/name</value>

            </property>

    <property>

    <name>dfs.datanode.data.dir</name>

                    <value>file:/usr/local/hadoop/tmp/dfs/data</value>

            </property>

    <property>

    <name>dfs.permissions</name>

    <value>false</value>

    </property>

    </configuration>

                                      yarn-site.xml如下

    <?xml version="1.0"?>

    <configuration>

    <property>

    <name>yarn.resourcemanager.hostname</name>

    <value>master</value>

    </property>

    <property>

                    <name>yarn.nodemanager.aux-services</name>

                    <value>mapreduce_shuffle</value>

            </property>

    <!-- Site specific YARN configuration properties -->

    </configuration>

                                              mapred-site.xml如下

    <?xml version="1.0"?>

    <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

     <!-- Put site-specific property overrides in this file. -->

    <configuration>

    <property>

    <name>mapreduce.framework.name</name>

    <value>yarn</value>

    </property>

    <property>

                    <name>mapreduce.jobhistory.address</name>

                    <value>master:10020</value>

            </property>

    <property>

                    <name>mapreduce.jobhistory.webapp.address</name>

                    <value>master:19888</value>

            </property>

    </configuration>

    相关文章

      网友评论

          本文标题:关于hadoop分布式启动问题

          本文链接:https://www.haomeiwen.com/subject/omdhcqtx.html