使用新的存储文件跟踪功能解锁 S3 上的 HBase

作者: 大数据杂货铺 | 来源:发表于2022-11-23 10:43 被阅读0次

docker push 失败报错unknow blob
指纹解锁功能LAContext的使用
AWS免费套餐的妙用：将S3的存储桶作为文件系统使用
将基于Appsync的react程序发布到AWS S3
Loki 日志系统分布式部署实践四 minio
HBase架构简析
对象存储COS
经典Hbase面试7题（附答案）
Hbase设计原则
第三课：AWS基础核心服务 - 存储服务 EBS,S3, EFS

OpDB 存储文件跟踪CDP 运营数据库 (COD)<span style="font-family: mp-quote, -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif; visibility: visible;">是由 Apache HBase 和 Apache Phoenix 提供支持的实时自动扩展运营数据库。它是在 Cloudera 数据平台 (CDP) 公共云上运行的主要数据服务之一。您可以从CDP 控制台<strong style="font-family: mp-quote, -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif; visibility: visible;">访问 COD 。基于云的对象存储的成本节约在业界广为人知。通过将对象存储用于持久层可以满足延迟和性能要求的应用程序可以显着降低云中的操作成本。虽然可以模拟分层文件系统从对象存储的角度来看，与 HDFS 相比的语义非常不同。克服这些警告必须由软件架构的访问层（在本例中为 HBase）解决。从处理不同的提供者接口到特定供应商技术限制，Cloudera 和 Apache HBase 社区为集成 HBase 和对象存储做出了巨大努力，但 Amazon S3 对象存储的一个特殊特性一直是 HBase 的一个大问题：缺乏原子重命名。HBase 中的存储文件跟踪项目解决了 HBase 在 S3 上缺失的原子重命名问题。这改善了 HBase 延迟并减少了 S3 上的 I/O 放大。<section data-mpa-template="t" mpa-from-tpl="t" style="visibility: visible;"><h2 mpa-is-content="t" style="margin: 5px; padding-right: 10px; padding-left: 10px; font-weight: bold; max-width: 100%; font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif; font-variant-numeric: normal; font-variant-east-asian: normal; letter-spacing: 0.544px; text-align: justify; white-space: normal; widows: 1; border-left: 5px solid rgb(2, 30, 170); line-height: 32px; background-color: rgb(255, 255, 255); border-top-color: rgb(2, 30, 170); border-bottom-color: rgb(2, 30, 170); border-right-color: rgb(2, 30, 170); box-sizing: border-box !important; overflow-wrap: break-word !important; visibility: visible;">HBase on S3 回顾</h2></section><span style="font-family: mp-quote, -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif; visibility: visible;">HBase 内部操作最初是在临时目录中创建文件，然后在提交操作中将文件重命名为最终目录。这是一种将正在写入或过时的文件与准备读取的文件分开的简单方便的方法。在这种情况下，非原子重命名不仅会导致客户端读取不一致，甚至还会导致数据丢失。这在 HDFS 上不是问题，因为 HDFS 提供了原子重命名。第一次尝试克服这个问题是在 2019 年推出的 HBOSS 项目。这种方法为文件系统路径构建了一个分布式锁定层，以防止并发操作访问正在修改的文件，例如目录重命名。我们在之前的博文中介绍了 HBOSS 。不幸的是，当针对跨越数千个区域和数十 TB 的更大工作负载和数据集运行 HBOSS 解决方案时，HBOSS 引发的锁争用会严重影响集群性能。为了解决这个问题，在HBASE-26067中提出了对 HBase 内部文件写入的更广泛的重新设计，引入了一个单独的层来处理关于应该首先在何处创建文件以及如何在文件写入提交时进行的决定。这被标记为 StoreFile Tracking 功能。它允许可插入的实现，目前它提供了以下内置选项：<ul class="list-paddingleft-1"><li>DEFAULT ：顾名思义，这是默认选项，如果未明确设置则使用。它按照原始设计工作，使用临时目录并在提交时重命名文件。</li><li>FILE：本文的重点，因为这是在使用 Cloudera 操作数据库 (COD) 部署 HBase 和 S3 时使用的文件。我们将在本文的其余部分更详细地介绍它。 </li><li>MIGRATION：在 DEFAULT 和 FILE 实现之间转换包含数据的现有表时使用的辅助实现。</li></ul><h1></h1><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">HBase 中的用户数据 </h2></section>在进入FILE StoreFile Tracking 实现的内部细节之前，让我们回顾一下 HBase 的内部文件结构及其涉及用户数据文件写入的操作。HBase 中的用户数据被写入两种不同类型的文件：WAL 和存储文件（存储文件也称为 HFiles）。WAL 文件是短暂的临时文件，用于容错，反映区域服务器的内存缓存， memstore 。为了实现客户端写入的低延迟要求，WAL 文件可以保持打开更长时间，并使用 fsync 样式调用持久保存数据。存储文件（Hfiles ），另一方面，是最终保存用户数据以服务于任何未来客户端读取的地方，并且考虑到 HBase 用于存储信息的分布式分片策略，Hfiles 通常分布在以下目录结构中：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="cpp"><code>/rootdir/data/namespace/table/region/cf</code></pre></section>这些目录中的每一个都映射到区域服务器的内存结构中，称为 HStore ，这是 HBase 中最细粒度的数据分片。大多数情况下，只要区域服务器 memstore 利用率达到给定阈值，就会创建存储文件，从而触发 memstore 刷新。新的存储文件也通过压缩和批量加载创建。此外，区域拆分/合并操作和快照恢复/克隆操作创建存储文件的链接或引用，在存储文件跟踪的上下文中，这需要与存储文件相同的处理。<section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">HBase on 云存储架构概述</h2></section>由于云对象存储实现目前不提供任何类似于 fsync 的操作，HBase 仍然需要将 WAL 文件放在 HDFS 集群上。但是，由于这些是临时的、短期文件，因此在这种情况下所需的 HDFS 容量比将整个 HBase 数据存储在 HDFS 集群中的部署所需的容量小得多。存储文件仅由区域服务器读取和修改。这意味着更高的写入延迟不会直接影响客户端写入操作 (Puts) 的性能。存储文件也是整个 HBase 数据集持久化的地方，这与主要云对象存储供应商提供的降低存储成本非常吻合。总之，基于对象存储的 HBase 部署基本上是用于其 WAL 文件的短 HDFS 和用于存储文件的对象存储的混合体。下图描述了 HBase over Amazon S3 部署：<img class="rich_pages wxw-img" data-backh="402" data-backw="578" data-ratio="0.6952224052718287" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0U88DjAcjnBQuYV4icykeGaIuzzLniaiaUxsXiaAb5Ypqho4joRV39zXq9w/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="1" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/4ce8891f0b40f191.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0U88DjAcjnBQuYV4icykeGaIuzzLniaiaUxsXiaAb5Ypqho4joRV39zXq9w/640?wx_fmt=png" data-index="1" style="width: 677px !important; height: 470.666px !important;">这将 StoreFile Tracking 重新设计的范围限制在直接处理存储文件的组件。 <section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">HStore编写高层设计</h2></section>上面提到的 HStore 组件聚合了几个与存储维护相关的附加结构，包括 StoreEngine，它隔离存储文件处理特定逻辑。这意味着所有涉及存储文件的操作最终都将在某个时候依赖于 StoreEngine。在HBASE-26067重新设计之前，所有与创建存储文件相关的逻辑以及如何区分最终文件与正在编写的文件和过时文件的逻辑都在存储层中进行了编码。下图是在 StoreFile Tracking 功能之前参与存储文件操作的主要参与者的高级视图：<img class="rich_pages wxw-img" data-backh="415" data-backw="578" data-ratio="0.7182866556836903" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0PZLMiaUwS6OMRmHVRiaL2UfRUfZiasPlnryx9l2cewg1ETK9mUWfibu0tA/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="2" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/1bd4db3582fdddb9.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0PZLMiaUwS6OMRmHVRiaL2UfRUfZiasPlnryx9l2cewg1ETK9mUWfibu0tA/640?wx_fmt=png" data-index="2" style="width: 677px !important; height: 486.28px !important;"> 从 HStore 的上下文来看，在HBASE-26067之前，memstore 刷新的顺序视图如下所示：<img class="rich_pages wxw-img" data-backh="547" data-backw="578" data-ratio="0.9456342668863262" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0U50HCujbFXiaBovUYDP4PSLSUJ1ibusfCRjWJmC7P5z1FD6NWK447ksA/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="3" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/772f146b72e221d3.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0U50HCujbFXiaBovUYDP4PSLSUJ1ibusfCRjWJmC7P5z1FD6NWK447ksA/640?wx_fmt=png" data-index="3" style="width: 677px !important; height: 640.194px !important;"> StoreFile Tracking 将自己的层添加到该架构中，封装文件创建和跟踪逻辑，这些逻辑以前是在存储层本身中编码的。为了帮助形象化，HBASE-26067之后的等效图可以表示为：<img class="rich_pages wxw-img" data-backh="451" data-backw="578" data-ratio="0.7808896210873146" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0YiboeOywGULBGvZj6ic8mBiaqbFSC45eW6LDU8sr0XbmHePzibvs791aog/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="4" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/5c3aff9105340918.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0YiboeOywGULBGvZj6ic8mBiaqbFSC45eW6LDU8sr0XbmHePzibvs791aog/640?wx_fmt=png" data-index="4" style="width: 677px !important; height: 528.662px !important;">带有 StoreFile 跟踪的 Memstore 刷新序列：<img class="rich_pages wxw-img" data-backh="499" data-backw="578" data-ratio="0.8632619439868204" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0riaUY1SLTcENdXzMwqicoq8icXAFbK3UhXTDmBadfdWO39ZV9l7aLGmbA/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="5" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/0708ea6476499325.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0riaUY1SLTcENdXzMwqicoq8icXAFbK3UhXTDmBadfdWO39ZV9l7aLGmbA/640?wx_fmt=png" data-index="5" style="width: 677px !important; height: 584.428px !important;"><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">基于文件的存储文件跟踪</h2></section>基于文件的跟踪器直接在最终存储目录中创建新文件。它在存储目录中保存的一对元文件上保留提交的有效文件列表，完全消除了使用临时文件和重命名操作的需要。从 CDP 7.2.14 版本开始，它默认为基于 S3 的 Cloudera Operational Database 集群启用，但从纯 HBase 的角度来看，FILE 跟踪器可以在全局或表级别配置：<ul class="list-paddingleft-1"><li>要在全局级别启用文件跟踪器，请在 hbase-site.xml 上设置以下属性：</li></ul><span class="code-snippet__tag" style="white-space:pre-wrap;font-family: Consolas, "Liberation Mono", Menlo, Courier, monospace;font-size: 14px;text-align: left;background-color: rgba(0, 0, 0, 0.03);box-sizing: content-box !important;"><section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="xml"><code><property><name>hbase.store.file-tracker.impl</name><value>FILE</value></property></code></pre></section><ul class="list-paddingleft-1"><li>要在表或列族级别启用 FILE 跟踪器，只需在创建或更改时定义以下属性。此属性可以在表或列族配置中定义：</li></ul><section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="typescript"><code>{CONFIGURATION => {'hbase.store.file-tracker.impl' => 'FILE'}}</code></pre></section><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">文件跟踪器实现细节</h2></section>虽然存储文件创建和跟踪逻辑是在上图 StoreFile Tracking 层中的 FileBaseStoreFileTracker 类中定义的，但我们提到它必须将有效存储文件列表保存在某种内部元文件中。这些文件的操作在 StoreFileListFile 类中被隔离。StoreFileListFile 最多保留两个前缀为 f1/f2 的文件，后跟上次打开存储时的时间戳值。这些文件放在 .filelist 目录中，而该目录又是实际列族文件夹的子目录。以下是名为“tbl-sft”的启用 FILE 跟踪器的表的元文件示例：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="kotlin"><code>/data/default/tbl-sft/093fa06bf84b3b631007f951a14b8457/f/.filelist/f2.1655139542249</code></pre></section>StoreFileListFile 根据以下模板将文件创建时间的时间戳与 protobuf 格式的存储文件列表一起编码：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li><li></li><li></li><li></li><li></li><li></li><li></li><li></li><li></li><li></li></ul><pre class="code-snippet__js" data-lang="nginx"><code>message StoreFileEntry {</code><code> required string name = 1;</code><code> required uint64 size = 2;</code><code>}</code><code></code><code>message StoreFileList {</code><code> required uint64 timestamp = 1;</code><code> repeated StoreFileEntry store_file = 2;</code><code></code><code>}</code></pre></section>然后计算 protobuf 编码内容的 CRC32 校验和，并将内容和校验和保存到元文件中。以下是 UTF 格式的元文件负载示例：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li><li></li><li></li></ul><pre class="code-snippet__js" data-lang="css"><code>^@@^@U^H¥<91><87>ð<95>0^R%</code><code> fad4ce7529b9491a8605d2e0579a3763^Pû%R%</code><code> 4f105d23ff5e440fa1a5ba7d4d8dbeec^Pû%û8â^R</code></pre></section>在此示例中，元文件列出了两个存储文件。请注意，仍然可以识别存储文件名，如红色所示。<section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">StoreFileListFile初始化</h2></section>每当区域在区域服务器上打开时，需要初始化其相关的 HStore 结构。当使用 FILE 跟踪器时，StoreFileListFile 会经历一些启动步骤来加载/创建其元文件并将有效文件的视图提供给 HStore。这个过程枚举为：<ol class="list-paddingleft-1"><li>列出当前在 .filelist 目录下的所有元文件</li><li>按时间戳后缀对找到的文件进行分组，按降序排序</li><li>选择具有最新时间戳的对并解析文件的内容</li><li>从 .filelist 目录中清除所有当前文件</li><li>将当前时间戳定义为元文件名称的新后缀</li><li>检查所选对中的哪个文件在其有效负载中具有最新时间戳，并将此列表返回给 FileBasedStoreFileTracking</li></ol>以下是突出显示这些步骤的序列图：<img class="rich_pages wxw-img" data-backh="387" data-backw="578" data-ratio="0.6688632619439868" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF03FS3pNRb4Q5ZpkzLQu2SC7dlfGEic0Koiadl8gjktT6BLiaQkaNBdyZng/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="6" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/c205fa3d89cf0a0b.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF03FS3pNRb4Q5ZpkzLQu2SC7dlfGEic0Koiadl8gjktT6BLiaQkaNBdyZng/640?wx_fmt=png" data-index="6" style="width: 677px !important; height: 452.82px !important;"><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">StoreFileListFile更新</h2></section>任何涉及创建新存储文件的操作都会导致 HStore 触发 StoreFileListFile 的更新，这反过来会轮换元文件前缀（从 f1 到 f2，或从 f2 到 f1），但保持相同的时间戳后缀。新文件现在包含有效存储文件的最新列表。枚举 StoreFileListFile 更新的操作顺序：<ol class="list-paddingleft-1"><li>查找下一个要使用的前缀值（f1 或 f2）</li><li>使用选择的前缀和相同的时间戳后缀创建文件</li><li>生成存储文件列表的protobuf内容和当前时间戳</li><li>计算内容的校验和</li><li>将内容和校验和保存到新文件</li><li>删除过时的文件</li></ol><img class="rich_pages wxw-img" data-backh="328" data-backw="578" data-ratio="0.5667215815485996" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0v6CqAUVfPtuicZPdnMQRibFBuUKbSjO2FWpgSX5aYrTmZ7m01E4LBRQw/640?wx_fmt=png" data-type="png" data-w="607" style="width: 100%; height: auto; display: none;" data-index="7" data-origin-display="" _width="100%" crossorigin="anonymous" alt="图片" src="https://img.haomeiwen.com/i13265002/01ec8260b5d74e2c.png"><span class="js_img_placeholder wx_widget_placeholder" data-src="https://mmbiz.qpic.cn/mmbiz_png/9IZsf6icv8GrMyYJU3rYm9a8a3W1RCSF0v6CqAUVfPtuicZPdnMQRibFBuUKbSjO2FWpgSX5aYrTmZ7m01E4LBRQw/640?wx_fmt=png" data-index="7" style="width: 677px !important; height: 383.671px !important;"><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">StoreFile 跟踪操作实用程序</h2></section>快照克隆除了可以在创建或更改时在表或列族配置中设置的hbase.store.file-tracker.impl属性之外，还为clone_snapshot HBase shell 命令提供了一个附加选项。这在为未配置 FILE 跟踪器的表克隆快照时至关重要，例如，将快照从没有 FILE 跟踪器的非基于 S3 的集群导出到需要 FILE 跟踪器才能正常工作的 S3 支持的集群时。以下是克隆快照并为表正确设置 FILE 跟踪器的示例命令：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="typescript"><code>clone_snapshot 'snapshotName' , 'namespace:tableName' , { CLONE_SFT => 'FILE' }</code></pre></section>在此示例中，FILE 跟踪器将在快照文件加载期间使用相关跟踪器元文件初始化 StoreFileListFile。<h2 style="font-size: 16px;font-family: mp-quote, -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;">存储文件跟踪转换器命令</h2>可以使用两个新的 HBase shell 命令来更改表或列族的存储文件跟踪实现，并且可以用作转换最初未配置 FILE 跟踪器的导入表的替代方法：<ul class="list-paddingleft-1"><li>change_sft ：允许更改单个表或列族的存储文件跟踪实现：</li></ul><section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li><li></li></ul><pre class="code-snippet__js" data-lang="shell"><code> hbase> change_sft 't1','FILE'</code><code>hbase> change_sft 't2','cf1','FILE' </code></pre></section><ul class="list-paddingleft-1"><li>change_sft_all ：为给定正则表达式的所有表更改存储文件跟踪实现：</li></ul><section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li><li></li><li></li></ul><pre class="code-snippet__js" data-lang="shell"><code>hbase> change_sft_all 't.','FILE'</code><code> hbase> change_sft_all 'ns:.','FILE'</code><code> hbase> change_sft_all 'ns:t.*','FILE'</code></pre></section><h2 style="font-size: 16px;font-family: mp-quote, -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;">HBCK2支持</h2>还有一个新的 HBCK2 命令用于制作 FILE 跟踪器元文件，以防元文件损坏或丢失。这是rebuildStoreFileListFiles命令，可以一次为整个 HBase 目录树、单个表或表中的特定区域重建元文件。在其简单的形式中，该命令仅构建并打印受影响文件的报告：<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="nginx"><code>HBCK2 rebuildStoreFileListFiles</code></pre></section>上面的示例为整个目录树构建了一个报告。如果传递了 -f/–fix 选项，该命令会有效地构建元文件，假设存储目录中的所有文件都有效。<section class="code-snippet__fix code-snippet__js"><ul class="code-snippet__line-index code-snippet__js"><li></li></ul><pre class="code-snippet__js" data-lang="nginx"><code>HBCK2 rebuildStoreFileListFiles -f my-sft-tbl</code></pre></section><section data-mpa-template="t" mpa-from-tpl="t"><h2 mpa-is-content="t" style="margin: 5px;padding-right: 10px;padding-left: 10px;font-weight: bold;max-width: 100%;font-family: -apple-system-font, BlinkMacSystemFont, "Helvetica Neue", "PingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-variant-numeric: normal;font-variant-east-asian: normal;letter-spacing: 0.544px;text-align: justify;white-space: normal;widows: 1;border-left: 5px solid rgb(2, 30, 170);line-height: 32px;background-color: rgb(255, 255, 255);border-top-color: rgb(2, 30, 170);border-bottom-color: rgb(2, 30, 170);border-right-color: rgb(2, 30, 170);box-sizing: border-box !important;overflow-wrap: break-word !important;">结论</h2></section>StoreFile Tracking 及其内置的 FILE 实现避免了用于管理存储文件的内部文件重命名，从而支持通过 S3 部署 HBase。它与公有云中的 Cloudera Operational Database 完全集成，默认情况下在使用 S3 作为持久性存储技术创建的每个新集群上启用。FILE 跟踪器在不依赖临时文件或目录的情况下成功地处理了存储文件，消除了 HBOSS 提出的附加锁定层。FILE 跟踪器和处理快照、配置和可支持性的其他工具成功地将数据集迁移到 S3，从而使 HBase 应用程序能够利用 S3 提供的优势。 我们非常高兴为我们的用户释放了 HBase on S3 的潜力。今天在 CDP 的操作数据库模板中试用在 S3 上运行的 HBase！要了解有关 Apache HBase 分布式数据存储的更多信息，请访问我们这里。原文作者：Wellington Chevreuil原文链接：https://blog.cloudera.com/unlocking-hbase-on-s3-with-the-new-store-file-tracking-feature/<mp-style-type data-value="3"></mp-style-type><blockquote>本文使用 <a href="https://www.jianshu.com/p/5709df6fb58d" class="internal">文章同步助手</a> 同步</blockquote>

docker push 失败报错unknow blob
镜像仓库使用的是harbor，后端存储用公司的s3。由于性能问题，最近要上性能较好的新s3，新版s3未曾上线，所以...
指纹解锁功能LAContext的使用
通过LAContext的使用，调用系统指纹解锁功能来实现APP的解锁。代码封装接口文件.h 实现文件.m 封装类使用
AWS免费套餐的妙用：将S3的存储桶作为文件系统使用
上期文章我们介绍了如何在AWS创建S3存储桶，在这篇文章中，我们来分享，如何将你的S3存储桶作为文件系统来使用。 ...
将基于Appsync的react程序发布到AWS S3
前端代码放置在S3，S3是一个AWS的存储资源，可以放置静态文件。后端数据使用AWS的AppSync 结果 htt...
Loki 日志系统分布式部署实践四 minio
说明 loki 支持文件系统、对象存储、NoSQL，对象存储大多都要使用公有云，但所幸的是它支持了 aws s3 ...
HBase架构简析
一、HBase架构简介 1、StoreFile HBase数据的存储单元，底层使用HDFS存储。数据按照Cell（...
对象存储COS
典型的对象图片视频新的存储架构数据平面对象存储文件存储块存储存储架构对象存储的功能基本功能对象...
经典Hbase面试7题（附答案）
Hbase Hbase是怎么写数据的？ HDFS和HBase各自使用场景 Hbase的存储结构热点现象（数据倾斜...
Hbase设计原则
Hbase存储架构 Hbase通过元数据信息来管理,数据都是通过ReginServer存储在HDFS上 Hbase...
第三课：AWS基础核心服务 - 存储服务 EBS,S3, EFS
EBS, S3, EFS 对比最大的区别是： EBS是块存储，S3是对象存储。 EBS仅能与EC2实例结合使用。...

使用新的存储文件跟踪功能解锁 S3 上的 HBase

相关文章

docker push 失败报错unknow blob

指纹解锁功能LAContext的使用

AWS免费套餐的妙用：将S3的存储桶作为文件系统使用

将基于Appsync的react程序发布到AWS S3

Loki 日志系统分布式部署实践四 minio

HBase架构简析

对象存储COS

经典Hbase面试7题（附答案）

Hbase设计原则

第三课：AWS基础核心服务 - 存储服务 EBS,S3, EFS

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读