美文网首页
du -sk 造成hadoop 的datanode IO Wai

du -sk 造成hadoop 的datanode IO Wai

作者: 安夏深蓝翼 | 来源:发表于2019-10-16 22:03 被阅读0次

    1,现象,登录一台datanode,可以使用iotop查看

    2,我们发现du -sk 占用了IOPS, 然后需要怎么处理呢。hadoop有相关的jira

    https://issues.apache.org/jira/browse/HADOOP-9884

    3,解决方案:

    网上大致有两种办法,第一钟办法是将du改成df,因为df操作特别快。不针对每个文件。第二种办法是直接利用内存里面存储的blocks块的统计数据。我下面介绍一下怎么使用df。

    增加一个类:

    还需要在core-site.xml里面增加配置。fs.getspaceused.classname=org.apache.hadoop.fs.DFCachingGetSpaceUsed

    有任何问题可以留言

    相关文章

      网友评论

          本文标题:du -sk 造成hadoop 的datanode IO Wai

          本文链接:https://www.haomeiwen.com/subject/brdpmctx.html