美文网首页程序员
常用HDFS命令

常用HDFS命令

作者: dzgdp888 | 来源:发表于2016-01-11 20:52 被阅读3257次
关于命令的说明

关于HDFS的文件操作,主要使用以下3个命令:

  1. hadoop fs {args}
  2. ~~hadoop dfs {args} ~~ //已经废弃了
  3. hdfs dfs {args}
    其中命令2已经废弃,大家不要再使用了。fs和dfs的区别简要说一下,fs属于一个更抽象的概念,可以操作任何文件系统;而dfs只能操作HDFS文件系统相关(包括与Local FS间的操作)。** 比如,Hadoop本地模式中fs是local file system,这个时候dfs就不能用,只能用fs。**
  • 列出HDFS上的文件
hadoop fs -ls 路径

在这里需要注意:在HDFS中未带参数的"-ls"命名没有返回任何值,它默认返回HDFS的"home"目录下的内容。在HDFS中,没有当前目录这样一个概念,也没有cd这个命令。

  • 列出HDFS上的文件(递归)
hadoop fs -ls -R 路径
  • 上传文件到HDFS
    此处为你展示如何通过"-put 文件1 文件2"命令将"Master.Hadoop"机器下的"/home/hadoop"目录下的file文件上传到HDFS上并重命名为test
hadoop fs –put ~/file test

在执行"-put"时只有两种可能,即是执行成功和执行失败。在上传文件时,文件首先复制到DataNode上。只有所有的DataNode都成功接收完数据,文件上传才是成功的。其他情况(如文件上传终端等)对HDFS来说都是做了无用功。

  • 将HDFS中文件复制到本地系统中
    此处为你展示如何通过"-get 文件1 文件2"命令将HDFS中的"output"文件复制到本地系统并命名为"getout"
hadoop fs –get output getout
  • 删除HDFS下的文档
    此处为你展示如何删除用户home目录下的output文件夹
hadoop fs –rm -r output
  • 查看HDFS下某个文件
    此处为你展示如何通过"-cat 文件"命令查看HDFS下input文件中内容
hadoop fs -cat input/*
  • 查看HDFS状态
    这个当然不算文件操作了,当时是比较常用的命令,可以查看有哪些datanode,并且每个datanode的情况
hadoop dfsadmin -report

相关文章

  • HDFS常用命令

    1、hadoop常用命令 2、HDFS细节 HDFS:Hadoop Distributed File System...

  • 51cto赵强HADOOP学习(二)

    hdfs常用命令 java编程案例 设置权限

  • 常用HDFS命令

    关于命令的说明 关于HDFS的文件操作,主要使用以下3个命令: hadoop fs {args} ~~hadoop...

  • Hadoop 入门(五)

    目录 Hadoop 安装 单点启动&集群启动 访问 HDFS 常用配置 常用命令 常用命令 退出安全模式 ente...

  • HDFS常用命令

    HDFS常用命令 在 hdfs 文件系统上创建一个 input 文件夹 bin/hdfs dfs -mkdir ...

  • Hadoop实验——熟悉常用的HDFS操作

    实验目的 理解HDFS在Hadoop体系结构中的角色。 熟练使用HDFS操作常用的Shell命令。 熟悉HDFS操...

  • hadoop 操作HDFS 命令

    hadoop HDFS常用文件操作命令 命令基本格式: hadoop fs -cmd < args > 1.ls ...

  • hdfs命令大全

    hdfs常用命令: 第一部分:hdfs文件系统命令 第一类:文件路径增删改查系列: hdfs dfs -mkdir...

  • Hadoop 入门(四)

    目录 Hadoop 安装 单点启动&集群启动 访问 HDFS 常用配置 常用命令 常用配置 core-site.x...

  • HDFS常用命令

    一、工作中常用的HDFS的命令整理 说明: 20200527新增命令setfacl 和getfacl,见命令(15...

网友评论

    本文标题:常用HDFS命令

    本文链接:https://www.haomeiwen.com/subject/kgwqkttx.html