美文网首页我爱编程
Hadoop: 单节点配置

Hadoop: 单节点配置

作者: lazyTai | 来源:发表于2018-08-04 12:37 被阅读156次

Setting up a Single Node Cluster.

单节点配置 Hadoop

1.Purpose 目的
2.Prerequisites 先决条件
  3.Supported Platforms 支持的平台上
  4.Required Software  所需的软件
  5.Installing Software 安装软件
6.Download 下载
7.Prepare to Start the Hadoop Cluster :准备启动Hadoop集群
8.Standalone Operation 单机操作
9.Pseudo-Distributed Operation 伪分布操作
  10.Configuration 配置
  11.Setup passphraseless ssh ssh无密码登录
  12.Execution 执行
  13.YARN on a Single Node 单节点上的YARN 
14. Fully-Distributed Operation 全分布操作
image.png

准备启动Hadoop集群

image.png

解压你下载的Hadoop包,找到里面的etc/hadoop/hadoop-env.sh,修改

export JAVA_HOME=/usr/java/latest
改为你的JAVA_HOME

尝试启动hadoop

 bin/hadoop

有了这个基础,就可以开始下面的hadoop集群启动啦

启动hadoop集群-单机模式

启动hadoop集群-伪分布操作
     配置
        core-site.xml
            defaultFS
        hdfs-site.xml
            dfs.replication
    ssh无密码登录
        使用ssh localhost测试是否不需要密码就可以登录
        如果还是需要密码  ,尝试
            $ ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
            $ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
            $ chmod 0600 ~/.ssh/authorized_keys
    执行
        格式化系统文件
             bin/hdfs namenode -format
        启动NameNode、 DataNode 
            sbin/start-dfs.sh   
            文件日记输出在  $HADOOP_HOME/logs
        通过浏览器就可以看到可视化的NameNode 
             http://localhost:50070/
    单节点上的YARN 
image.png

相关文章

  • Hadoop: 单节点配置

    Setting up a Single Node Cluster. 单节点配置 Hadoop 准备启动Hadoop...

  • hadoop单节点的安装和配置

    #目的 (Purpose)# 这篇文档描述了怎样安装和配置一个单节点的Hadoop,并且利用Hadoop MapR...

  • HBase部署

    Hbase配置(单节点) 已安装hadoop 获取hbase 配置hbase环境 启动 什么是非HA模式 非HA模...

  • Hadoop: 单节点集群配置

    本文翻译自 Hadoop 的官方文档,原文 Hadoop: Setting up a Single Node Cl...

  • Hadoop 入门(二)

    目录 Hadoop 安装 单点启动&集群启动 访问 HDFS 常用配置 常用命令 启动关闭集群 单节点启动&停止 ...

  • Hadoop相关文章索引(3)

    环境部署 hadoop-2.7.0.tar.gz hadoop 2.6.0单节点-伪分布式模式安装 hadoop2...

  • hadoop伪节点自动配置

    hadoop伪节点配置方式 本文出发点超级傻瓜式配置Hadoop伪节点环境,99%的自动化部署。只需要将文中的代码...

  • 大数据集群搭建-Hadoop

    安装搭建 各节点安装Java,并配置环境变量。 先在Master节点进行Hadoop安装配置。主要配置文件如下: ...

  • 第四章 Hadoop系统管理

    Hadoop配置文件 Hadoop集群中的每台计算节点都有一组自己的配置文件。Hadoop系统的后续版本中按照不同...

  • Spark组件部署-单节点

    一、[[Hadoop平台搭建-单节点-伪分布式|构建Hadoop基础平台]] 二、Spark on yarn 当前...

网友评论

    本文标题:Hadoop: 单节点配置

    本文链接:https://www.haomeiwen.com/subject/yttmvftx.html