美文网首页
[JiChu4]研究RocksDBStateBackend

[JiChu4]研究RocksDBStateBackend

作者: bigdata张凯翔 | 来源:发表于2021-03-28 09:35 被阅读0次
RocksDBStateBackend.png

RocksDB 是一个 key/value 的内存存储系统,和其他的 key/value 一样,先将状态放到内存中,如果内存快满时,则写入到磁盘中,
但需要注意 RocksDB 不支持同步的 Checkpoint,构造方法中没有同步快照这个选项。
不过 RocksDB 支持增量的 Checkpoint,意味着并不需要把所有 sst 文件上传到 Checkpoint 目录,仅需要上传新生成的 sst 文件即可。它的 Checkpoint 存储在外部文件系统(本地或HDFS),


image.png

状态信息存储在 RocksDB 数据库 (key-value 的数据存储服务), 最终保存在本地文件中
checkpoint 的时候将状态保存到指定的文件中 (HDFS 等文件系统)

缺点:
状态访问速度有所下降
优点:
可以存储超大量的状态信息
状态信息不会丢失
用于: 生产,可以存储超大量的状态信息

StateBackend配置方式

(1)单任务调整
修改当前任务代码
env.setStateBackend(new
FsStateBackend("hdfs://namenode:9000/flink/checkpoints"));
或者new MemoryStateBackend()
或者new RocksDBStateBackend(filebackend, true);【需要添加第三方依赖】

如果使用RocksDBStateBackend方式,需要在pom.xml文件中,添加如下依赖

<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-statebackend-rocksdb_2.11</artifactId>
<version>${flink.version}</version>
</dependency>

(2)全局调整(不建议)

修改flink-conf.yaml
state.backend: filesystem
state.checkpoints.dir: hdfs://namenode:9000/flink/checkpoints
注意:state.backend的值可以是下面几种:jobmanager(MemoryStateBackend),
filesystem(FsStateBackend), rocksdb(RocksDBStateBackend)

相关文章

  • [JiChu4]研究RocksDBStateBackend

    RocksDB 是一个 key/value 的内存存储系统,和其他的 key/value 一样,先将状态放到内存中...

  • flink rocksdbStateBackend

    比较直观的方式是打开 RocksDB 的 native metrics ,在默认使用 Flink managed ...

  • 研究研究

    爱死佳爷了,龙哥虽然很爆很污但很率直很聪明,事半功倍的事还是要多做一些,我们就是要一路开挂,研究才是硬道理。 芥末...

  • 研究要研究之事

    提到做研究,我总是惶恐的。因为不清楚,不敢轻易开口。在这么多天的看书研究和交流之后,虽然粗粗明白了一些,...

  • 研究

    许岑关于研究原汁原味的分享给大家,仁者见仁,智者见智。不仅用于研究英文,主要是研究的方法论和实操手册,实...

  • 研究

    文/小来 《研究》 我一直想着 能否用最上好的材料 把我的肚子 打造成一口不锈钢锅 以便来防止那些 会把我肠胃弄疼的水货

  • 研究

  • 研究

    要对每一个你身边的人,包括上司和下属进行研究,研究适合他(她)们的相处模式。 有一种沟通模式看来是有效的:从推动工...

  • 研究

    (中国人在国外生活二十年后重拾汉语)探究汉语遗忘规律

  • 研究

    中国手语在汉语初级课堂中的应用可行性

网友评论

      本文标题:[JiChu4]研究RocksDBStateBackend

      本文链接:https://www.haomeiwen.com/subject/pifphltx.html