美文网首页
linux hadoop 伪分布式部署

linux hadoop 伪分布式部署

作者: Ace_Wang | 来源:发表于2018-05-29 22:40 被阅读0次

单机部署 进程没有

伪分布式部署 进程存在+1节点  开发

集群部署    进程存在+n节点  开发/生产

1、解压编译过的hadoop压缩包,(告诉大家一个秘密,通常文件名带src的是源码,不带src或者带bin的是编译过得),我这里使用的是hadoop-2.8.1.tar.gz

tar -zxvf  hadoop-2.8.1.tar.gz

2、解压后的目录

bin 执行命令的shell

etc 配置文件

lib 库

sbin 启动和关闭hadoop

share jar

3、配置环境变量

vi  /etc/profile

source /etc/profile

which hadoop看一下配置的环境变量有没有生效

已生效

4、配置文件 core-site.xml

\

core-site.xml文件

fs.defaultFS是hdfs的地址,

hdfs-site.xml文件

dfs.replication是hdfs的副本数量,因为是伪分布式只有1台服务器,所以只有1个副本。

5、ssh无密码登录

命令框输入:ssh-keygen,一直回车

安装完成;

id_rsa是私钥,id_rsa.pub是公钥,将公钥写入到授权库中,即可实现ssh无密码登录,

cat id_rsa.pub >> authorized_keys;

已经可以无密码登录,使用exit退出

6、格式化hdfs节点

        bin/hdfs namenode -format;

        将hdfs存储区域,格式化为hdfs需要用的文件格式;

JAVA_HOME找不到我们配置一下,

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk.x86_64

7、启动服务

sbin/start-dfs.sh

输入jps命令:

部署成功!!!!!

相关文章

  • Hadoop相关文章索引(3)

    环境部署 hadoop-2.7.0.tar.gz hadoop 2.6.0单节点-伪分布式模式安装 hadoop2...

  • linux hadoop 伪分布式部署

    单机部署 进程没有 伪分布式部署 进程存在+1节点 开发 集群部署 进程存在+n节点 开发/生产 1、...

  • 云平台配置1:伪分布式配置手册

    伪分布式配置手册 linux环境配置、linux环境下hadoop环境配置、linux静态ip设置 系统环境 VM...

  • Docker相关文章索引(3)

    环境部署 docker镜像制作之dockercompose.yml文件---hadoop伪分布式 CentOS 7...

  • ZooKeeper集群搭建

    Hadoop集群基础配置 hadoop伪分布式系统配置VM安装Linux虚拟机环境VM克隆Linux虚拟机集群配置...

  • hadoop 伪分布式搭建指南

    简述 hadoop 集群一共有4种部署模式,详见《hadoop 生态圈介绍》。伪分布式模式将hadoop安装在一台...

  • Hadoop 伪分布式搭建

    Hadoop 伪分布式搭建 Hadoop环境部署-JDK部分 准备工作 在 /opt/目录下创建文件夹module...

  • Hadoop 伪分布式搭建

    Hadoop 伪分布式搭建 Hadoop环境部署-JDK部分 准备工作 在 /opt/目录下创建文件夹module...

  • 03_HADOOP_03_HDFS分布式环境搭建

    上一节用伪分布式部署了hadoop环境,分布式环境其实就是把hadoop不同角色拆分到其他机器 环境准备 1.配置...

  • HDFS伪分布部署

    Hadoop的部署有三种: 单机部署:无进程伪分布式部署:进程存在+1个节点,也是我们说的单节点,适合开发集群部署...

网友评论

      本文标题:linux hadoop 伪分布式部署

      本文链接:https://www.haomeiwen.com/subject/wuhzjftx.html