美文网首页
hbase 中 rowkey 的设计

hbase 中 rowkey 的设计

作者: 莱布尼茨不会求导 | 来源:发表于2020-04-05 21:35 被阅读0次
RowKey 长度, 建议越短越好
  • RowKey是一个二进制 byte 流,可以是任意字符串,最大长度为64kb,实际应用中一般为10-100byte,以字节数组 byte[] 形式保存,一般设计成定长, 也有一些不定长的例如 openTSDB、kylin 在 hbase 中就不是定长的。
  • rowkey 建议越短越好,不要超过16个字节。HBase 中的数据无论是存储在写缓存 MemStore 还是 HFile 中的数据都是按照 KeyValue 存储的,rowkey 过长会占用更多的内存和磁盘资源
  • rowkey 中经常出现的字符串, 建议像 OpenTSDB 一样对 rowkey 进行切割, 并对切割后的部分字段进行编码
RowKey 散列原则, 设计的RowKey应均匀的分布在各个HBase节点上
  • Rowkey 的先导列一般都是经常被用到的列, 例如像 OpenTSDB 的先导列是 metric ,因为每次对OpenTSDB 的查询都需要指定 metric
  • 在 RowKey 的前面添加固定长度的 slat 或者是对 RowKey 中部分数据进行编码
RowKey 唯一原则
  • 必须在设计上保证其唯一性,由于在 HBase 中数据存储是Key-Value形式,若向HBase中同一张表插入相同 RowKey 的数据,则原先存在的数据会被新的数据覆盖

相关文章

  • Hbase创建前缀布隆过滤器

    HBASE如何提升根据rowkey前缀扫描? 如果rowkey设计为: rowkey= #

  • HBase框架基础(五)

    * HBase框架基础(五) 本节主要介绍HBase中关于分区的一些知识。 * HBase的RowKey设计 我们...

  • HBase-interview-questions

    一 HBase存储结构 HBase结构图示 二 rowkey设计原则 1️⃣ rowkey长度原则 : 建议越短越...

  • HBASE中column family的设计,rowkey的设计

    HBASE中column family的设计,rowkey的设计,以及row key的设计原则问题原创道法—自然 ...

  • Hbase 入门

    Hbase简介 参考:Hbase技术详细学习笔记 如何合理的设计HBase RowKey? Hbase是分布式、面...

  • hbase 中 rowkey 的设计

    RowKey 长度, 建议越短越好 RowKey是一个二进制 byte 流,可以是任意字符串,最大长度为64kb,...

  • Hbase rowkey设计

    hbase的rowkey设计决定了数据的分区和查询的方式,是使用hbase前一定要想清楚的,以下简单列举了设计hb...

  • hbase rowkey设计

    如果是随机访问,需要避免热点key都落到少数region上,需要打散,比如加上时间戳等随机数 但是如果经常需要扫描...

  • Hbase rowkey设计

    rowkey长度原则 rowkey是一个二进制码流,可以是任意字符串,最大长度 64kb ,实际应用中一般为10-...

  • Hbase rowkey 设计

    rowkey保证唯一rowkey类似于数据库中的主键,可以是一个字段或者多个字段拼接而成rowkey相同的记录被看...

网友评论

      本文标题:hbase 中 rowkey 的设计

      本文链接:https://www.haomeiwen.com/subject/qcnpphtx.html