Hadoop集群环境搭建

作者: smartjiang | 来源:发表于2018-06-21 10:12 被阅读44次

最近搞环境需要搭建hadoop环境,现在分享下过程!

1、首先下载相应的安装包,选择相应的版本选择包要是binary的。

2、上传相应的包配置相应环境

使用 tar -zxvf 压缩包 解压, 如果是集群环境配置相应的映射这只限于内网使用 修改 vi /etc/hosts ps:如果不是集群环境忽略

内网映射

3.配置:

配置etc/hadoop 下面的  core-site.xml   添加如下配置:fs:defaultFS 配置namenode hdp-01是主节点名称,9000是端口号,hdfs://是协议

配置

hdfs-site.xml 配置hdfs 文件

服务路径

4、启动 

环境变量和jdk配置一样的,这里给出:

export JAVA_HOME=/root/apps/jdk1.8.0_60

export HADOOP_HOME=/root/apps/hadoop-2.8.0

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

初始化namenode的元数据目录 :hadoop namenode -format

启动namenode进程:hadoop-daemon.sh startnamenode

启动datanode进程:hadoop-daemon.sh startdatanode

web端访问:http://hdp-01:50070 ,如果50070 端口打不了或者看不了参考这篇文章也就是防火墙问题https://blog.csdn.net/u010458114/article/details/78388015(50070不能访问)

如果是集群环境忽略上面的,我们在/etc/hadoop/slaves 添加自己的节点 ,主节点上使用start-dfs.sh 来自动启动整个集群,stop-dfs.sh 关闭整个集群节点

相关文章

网友评论

    本文标题:Hadoop集群环境搭建

    本文链接:https://www.haomeiwen.com/subject/kkcqyftx.html