美文网首页我爱编程
在Mac下安装Hadoop3.1.0的坑

在Mac下安装Hadoop3.1.0的坑

作者: L了个H | 来源:发表于2018-04-12 11:20 被阅读0次

    一、首先要配置好java环境(这个网上多的是这里就。。。)

    二、1.关闭防火墙

    2.ssh免登陆配置

    ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

    cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

    chmod og-wx ~/.ssh/authorized_keys

    测试 ssh localhost如果仍然提示要输入密码,那么可以vim ~/.ssh/config文件,添加以下代码。

    Host localhost

      AddKeysToAgent yes

      UseKeychain yes

      IdentityFile ~/.ssh/id_rsa

    三、1.下载好Hadoop3.1.0(这里下载http://ftp.riken.jp/net/apache/hadoop/common/hadoop-3.1.0/)

    2.我将下载好的Hadoop放到/usr/local/hadoop目录下

    3.配置一下Hadoop环境

    export HADOOP_HOME=/usr/local/hadoop/hadoop-3.1.0

    export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

    export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH

    export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"

    export  HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native

    4.1 配置hadoop-env.sh

    4.2配置core-site.xml——指定了NameNode的主机名与端口(open /usr/local/hadoop/hadoop-3.1.0/etc/hadoop/core-site.xml)

    4.3配置hdfs-site.xml(open /usr/local/hadoop/hadoop-3.1.0/etc/hadoop/hdfs-site.xml)

    4.4配置mapred-site.xml(open /usr/local/hadoop/hadoop-3.1.0/etc/hadoop/mapred-site.xml )

    4.5配置yarn-site.xml(open /usr/local/hadoop/hadoop-3.1.0/etc/hadoop/yarn-site.xml )

    4.6格式化HDFS

    在终端上     hdfs namenode -format

    我这里没有下面这条信息不知道为啥,😄

    4.7 一次启动hadoop所有进程:

    在终端上     start-all.sh

    4.8 在终端上 敲jps

    看看节点是不是都有

    放大招啦:测一下

    浏览器输入:

    http://localhost:9870/而不是http://localhost:50070/

    为啥是http://localhost:9870呢,这是Hadoop3后面新特性吧😄,我是在大神指导下发现的😄

    最后有不足指出请多多指教😄

    相关文章

      网友评论

        本文标题:在Mac下安装Hadoop3.1.0的坑

        本文链接:https://www.haomeiwen.com/subject/roztkftx.html