美文网首页
hdfs 磁盘存储不平衡、重新平衡操作

hdfs 磁盘存储不平衡、重新平衡操作

作者: 大猪大猪 | 来源:发表于2020-01-09 14:21 被阅读0次

在日积月累的操作中、可能会存在有些磁盘的存储分布得不是很平衡、这就给数据多的那一台机子带来压力、因为很多的读取都是在同一台机子上、所以我们需要重新平衡一下存储、也就是把存储多的机子上的数据转移到其它机子。这里我们使用hdfs提供的balancer命令操作。

操作

  1. 随意登录hdfs集群中的某一台机子、然后切换到hdfs用户
su - hdfs
  1. kerberos 认证[可选]
kinit -kt /etc/security/keytabs/hdfs.headless.keytab hdfs-demo
  1. 平衡命令
hdfs balancer -threshold 5

相关文章

  • hdfs 磁盘存储不平衡、重新平衡操作

    在日积月累的操作中、可能会存在有些磁盘的存储分布得不是很平衡、这就给数据多的那一台机子带来压力、因为很多的读取都是...

  • HDFS balance

    Hadoop的HDFS集群非常容易出现机器与机器之间磁盘利用率不平衡的情况,比如集群中添加新的数据节点。当HDFS...

  • hadoop基础知识

    hdfs的块大小默认为129m map操作的输出写入本地磁盘,而不是hdfs文件,reduce的输出是在hdfs文...

  • hadoop 多目录配置 集群性能基准测试 集群数据间平衡

    项目经验之HDFS存储多目录 生产环境服务器磁盘情况image.png 2.在hdfs-site.xml文件中配置...

  • 网络与新媒体概述 笔记2

    1.、 背景:互联网资源不平衡的状态的解决 解决数据、计算和存储不平衡的状态 云计算:可用,便捷,按需的网络访问,...

  • Hadoop Start(4) ——文件格式以及压缩与分片

    1. HDFS压缩与分片 HDFS压缩 文件压缩有两大好处: [1] 减少存储文件所需要的磁盘空间,节约硬件成...

  • HDFS详解-03和MapReduce详解

    HDFS: 1.启动顺序(面试题) 2.hdfs dfsadmin 1、多态机器的磁盘存储分布不均匀? 2、一台机...

  • B树

    1、前言 B树是为磁盘或其它直接存取的辅助存储设备而设计的一种平衡搜索树,它类似于红黑树,但它在降低磁盘I/O操作...

  • 2019-11-12

    今天学习了操作系统的磁盘存储

  • 梦想|20170621  30/70

    这就是我们今天的生活,不平衡的生活。区域之间的不平衡、经济发展的不平衡,个人生活的不平衡等等,然后就是心理的不平衡...

网友评论

      本文标题:hdfs 磁盘存储不平衡、重新平衡操作

      本文链接:https://www.haomeiwen.com/subject/itvrbctx.html