美文网首页
mac下安装Java,Hadoop

mac下安装Java,Hadoop

作者: 学渣渣学学渣渣学学渣 | 来源:发表于2018-10-24 09:57 被阅读0次

一、安装JAVA

参考链接

1.JDK安装:JDK下载地址

下载并安装,检查是否安装成功。

2.配置path,classpath路径

打开终端,打开profile文件(sudo vim /etc/profile)

末尾添加以下代码:

JAVA_HOME="/Library/Java/JavaVirtualMachines/jdk-10.0.2.jdk/Contents/Home/"

CLASS_PATH="$JAVA_HOME/lib"

PATH=".:$PATH:$JAVA_HOME/bin"

其中JAVA_HOME可通过打开Finder,快捷键 “Command + Shift + G”,输入

/Library/Java/JavaVirtualMachines/,得到路径。

添加成功后,输入”:wq!“ 保存并退出profile文件。重启终端,输入以下命令使之生效

3.查看更改后的路径

echo $JAVA_HOME

二、SSH配置

1.确认能够远程登录:系统偏好设置-共享-远程登录

2.其余略,终端测试:ssh localhost

三、安装Hadoop

1.下载Hadoop

Hadoop下载链接

2.进入相关文件夹,解压Hadoop

tar -zxvf hadoop-2.8.4.tar.gz

3.配置Hadoop

    3.1添加环境变量

    环境变量设置的几种方法

修改当前用户的文件:vim ~/.bash_profile

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk-10.0.2.jdk/Contents/Home

export CLASSPATH=$JAVA_HOME/lib:$CLASSPATH

export HADOOP_HOME=/Users/darlenepretty/hadoop-2.8.4

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

添加成功后,使之生效下(source ~/.bash_profile)

可以通过echo $JAVA_HOME查看环境变量是否设置成功。

设置完成后,输入hadoop version,如果出现下面信息,表示hadoop开发环境变量设置好了

3.2配置hadoop-env.sh

先进入Hadoop的根目录”/Users/darlenepretty/hadoop-2.8.4/etc/hadoop“

添加如下语句:

export HADOOP_OPTS="-Djava.security.krb5.realm=OX.AC.UK -Djava.security.krb5.kdc=kdc0.ox.ac.uk:kdc1.ox.ac.uk"

3.3配置core-site.xml

输入以下内容:

<configuration>

<property>

  <name>hadoop.tmp.dir</name>

  <value>/Users/darlenepretty/hadoop-2.8.4/data</value>

  <description>A base for other temporary directories.</description>

</property>

<property>

  <name>fs.default.name</name>

  <value>hdfs://localhost:9000</value>

</property>

</configuration>

其中,localhost:9000代表本地主机。

3.4配置hdfs-site.xml

<configuration>

  <property>

    <name>dfs.replication</name>

    <value>1</value>

  </property>

</configuration>

3.5配置mapred-site.xml

由于hadoop的根目录下的etc/hadoop目录下没有mapred-site.xml文件,所以需要创建该文件,但是我们可以直接把etc/hadoop目录下的mapred-site.xml.template文件重命名为mapred-site.xml,然后配置数据处理的框架为yarn。

<configuration>

    <property>

        <name>mapreduce.framework.name</name>

        <value>yarn</value>

    </property>

</configuration>

3.6配置yarn-site.xml

<configuration>

<!-- Site specific YARN configuration properties -->

    <property>

        <name>yarn.nodemanager.aux-services</name>

        <value>mapreduce_shuffle</value>

    </property>

    <property>

        <name>yarn.resourcemanager.address</name>

        <value>localhost:9000</value>

    </property>

</configuration>

3.7启动Hadoop

执行:hadoop namenode -format

出现如下界面,表示namenode启动成功

3.8启动hdfs

执行:start-dfs.sh

然后输入三次密码!

3.9启动yarn

执行:start-yarn.sh

在执行:jps

出现如下界面,表示Hadoop启动完成!

四、查看Hadoop

http://localhost:50070/

相关文章

  • mac下安装Java,Hadoop

    一、安装JAVA 参考链接 1.JDK安装:JDK下载地址 下载并安装,检查是否安装成功。 2.配置path,cl...

  • Flink on Yarn

    安装和启动YARN 根据『 Hadoop 』mac下Hadoop的安装与使用这篇文章的指示安装并配置好Hadoop...

  • brew install hadoop on mac

    如何在mac安装旧版本的hadoop 首先要安装java,这需要brew tap caskroom/version...

  • Hadoop安装与配置 2.6 or 2.7

    hadoop安装前需要安装java。java安装这里就不多介绍。然后去hadoop官网下载hadoop sou...

  • 安装Hadoop 和 Hive

    Hadoop是依赖于Java,所以安装Hadoop之前,我们需要先安装Java。可以通过这个命令查看Java的版本...

  • Hadoop/Spark安装

    单机安装Hadoop 安装Java 2.设置Hadoop用户和组 3.安装并配置SSH 4.安装Hadoop 首先...

  • 如何在Mac上安装Java

    如何在Mac上安装Java Mac 下的安装位置 1. Homebrew 1.1 Install Homebrew...

  • Hadoop三节点集群搭建

    Mac下利用vmware fushion安装centos服务器,然后搭建Hadoop集群。 准备工作 安装好三台 ...

  • 配置环境学习

    Mac下查看已安装的JDK版本及其安装目录命令: java -version /usr/libexec/java_...

  • mac环境下hadoop安装

    本文主要讲述在mac环境下安装hadoop,目标读者为大数据初学者或者有意进入大数据行业的研发人员。 1、安装ho...

网友评论

      本文标题:mac下安装Java,Hadoop

      本文链接:https://www.haomeiwen.com/subject/ejigbftx.html