美文网首页
hdfs fsimage namenode 应该设置多少堆内存合

hdfs fsimage namenode 应该设置多少堆内存合

作者: 姜小嫌 | 来源:发表于2020-01-02 13:28 被阅读0次

线上的fsimage 有1.8G左右了,设置了6G heap 不够用了
新生代:老年代=1:2=2G: 4G

NameNode的内存主要由NameSpace和BlocksMap占用,其中NameSpace存储的主要是INodeFile和INodeDirectory对象,BlocksMap存储的主要是BlockInfo对象。则估算NameNode占用的内存大小也就是估算集群中INodeFile、INodeDirectory和BlockInfo这些对象占用的heap空间。

Java中常见数据结构占用的内存大小
下面先列举下java中常见数据结构占用的内存大小(64bit的jvm)
int = 4 bytes
long = 8 bytes
Reference size(引用) = 8 bytes
Object header size(对象头) = 16 bytes
Array header size(数组头) = 24 bytes
ArrayList header size(list头) = 24(数组头) + 4(属性size的大小) = 28 bytes
TreeMap.Entry = 64 bytes. (Entry的属性中有5个引用)
HashMap.Entry = 48 bytes. (Entry的属性有3个引用)
String header = 64 bytes.

1.去 hdfs ui 上看

19262510 files and directories, 14485600 blocks = 33748110 total filesystem object(s).
Heap Memory used 4.68 GB of 5.86 GB Heap Memory. Max Heap Memory is 5.86 GB.

33745283 * 150 bytes = 4.7G

2.大概用jmap 查看内存大概有 4.68Gb

image
$ jmap -histo:live  31366 | grep 'Total'
Total      84543039     4688976560

两者近似了,fsimage 大概在内存放大 2.6倍左右(当然内存中数据更多些,多了块与节点之间的映射)


参考:http://bigdatadecode.club/NameNode%E5%86%85%E5%AD%98%E8%A7%A3%E6%9E%90%E5%8F%8A%E5%A4%A7%E5%B0%8F%E8%AF%84%E4%BC%B0.html

相关文章

  • hdfs fsimage namenode 应该设置多少堆内存合

    线上的fsimage 有1.8G左右了,设置了6G heap 不够用了新生代:老年代=1:2=2G: 4G Nam...

  • 10)集群安全模式

    概述 1)NameNode启动 NameNode启动时,首先将镜像怎讲(fsimage)载入内存,并执行编辑日志(...

  • hdfs回顾

    namenode和datanode namenode:保存两类数据fsImage和FsEditLog FsImag...

  • 加米谷大数据:hadoop之hdfs安全模式

    namenode启动时,首先将映像文件(fsimage)载入内存,并中兴编辑日志中的各项操作。一旦在内存中成功建立...

  • HDFS(五):NN和2NN

    NameNode存储 内存一份数据,fsImage存储数据(合并后的数据,即没有追加前数据),edits文件只追加...

  • Hadoop小文件问题

    小文件过多,会消耗hdfs的namenode的内存内存消耗=文件数+目录数+block的数量

  • HDFS启动过程详解

    前言: 整理HDFS整个启动的详细过程 Namenode保存文件系统元数据镜像,namenode在内存及磁盘(fs...

  • 关于HDFS的基础概念和IO操作

    1. HDFS NameNode **作用是接受客户端的读写服务,在内存中保存文件元数据信息** NameNode...

  • HDFS相关内容学习

    NameNode 包含两种重要数据结构 FsImage:保存系统文件树FsImage记录内容包括:访问权限,块大小...

  • Hadoop框架:NameNode工作机制详解

    一、存储机制 1、基础描述 NameNode运行时元数据需要存放在内存中,同时在磁盘中备份元数据的fsImage,...

网友评论

      本文标题:hdfs fsimage namenode 应该设置多少堆内存合

      本文链接:https://www.haomeiwen.com/subject/gjxooctx.html