美文网首页我爱编程
白手起家:一步一步安装 hadoop on windows

白手起家:一步一步安装 hadoop on windows

作者: goldroc | 来源:发表于2015-04-30 21:22 被阅读0次

本文的内容仅仅是在windows 的单机环境下安装hadoop,目的自然是对hadoop可以有一个感性的接触和了解。所以正是因为需要阅读此文的肯定是hadoop门外汉,而且一步一步越细致的越好,不要让复杂和挫败感一下子就把你当在门外。真正把hadoop 在多机器的环境下配置起来需要更多的学习,就不是本文的职责了。
一:先准备需要下载的东东:

  1. Java Runtime (JRE)1.6 以上,下载最新版本就是了。http://www.java.com/
    值得注意的是安装路径,不要用默认的c:/Program files/Java,此路径中有空格。在hadoop中会出现不必要的麻烦,建议用c:/java。
  2. cygwin 环境,如果你还不知道这是什么,google 一下先。然后再来接着看。。。http://www.cygwin.com/
    cygwin 的安装有点需要注意的地方。hadoop需要ssh,注意把net包选上。具体可以参考我的另一篇博文:白手起家:一步一步安装cygwin
  3. hadoop 包 http://hadoop.apache.org/common/releases.html 下载stable版本,一般是一个.tar.gz文件。建议解压到c:/hadoop。
    到目前我们的计算机中多了三个目录:
c:/cygwin
c:/java
c:/hadoop

二:配置

  1. 设置JAVA_HOME
    打开 c:/hadoop/conf/hadoop-env.sh
    找到 #export JAVA_HOME=
    大概在第9行左右。
    改成export JAVA_HOME=c:/java/jre6

  2. 配置ssh 为无密码
    先打开cygwin,在cygwin窗口中启动sshd server:
    ssh-host-config -y
    等待完成,接着:
    cygrunsrv -S sshd
    此时已经启动sshd了,然后开始设置ssh。

ssh-keygen -t dsa -P ' -f ~/.ssh/id_dsa 
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys  

至此,你可以用ssh localhost 看看是否真的不需要密码。

  1. 配置hadoop
    打开c:/hadoop/conf/core-site.xml,改成
<configuration>
  <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

打开c:/hadoop/conf/hdfs-site.xml,改成

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

打开c:/hadoop/conf/hdfs-site.xml,改成

<configuration>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
</configuration>
  1. 格式化hadoop
    在cygwin 窗口中进入c:/hadoop
    bin/hadoop namenode -format

三:启动hadoop
bin/start-all.sh
如果启动成功,可以打开浏览器 http://localhost:50070/ 看看,如果有hadoop的状态页面出来,ok,恭喜你。

四:停止hadoop
bin/stop-all.sh

五:后记
本文就是把我自己安装hadoop的过程做了一个记录,并且避免了一般在初次安装时可能会碰到的问题。

相关文章

网友评论

    本文标题:白手起家:一步一步安装 hadoop on windows

    本文链接:https://www.haomeiwen.com/subject/hucbfttx.html