美文网首页Flink
[JiChu2]研究MemStateBackend

[JiChu2]研究MemStateBackend

作者: bigdata张凯翔 | 来源:发表于2021-04-01 06:52 被阅读0次
image.png

第一种是内存存储,即 MemoryStateBackend,构造方法是设置最大的StateSize,选择是否做异步快照,
对于State状态存储在 TaskManager 节点也就是执行节点内存中的,因为内存有容量限制,所以单个 State maxStateSize 默认 5 M,且需要注意 maxStateSize <= akka.framesize 默认 10 M。
对于Checkpoint 存储在 JobManager 内存中,因此总大小不超过 JobManager 的内存。
推荐使用的场景为:本地测试、几乎无状态的作业,比如 ETL、JobManager 不容易挂,或挂掉影响不大的情况。
不推荐在生产场景使用。


image.png

默认情况下,状态信息是存储在 TaskManager 的堆内存中的,checkpoint 的时候将状态保存到
JobManager 的堆内存中。

缺点:
• 只能保存数据量小的状态
• 状态数据有可能会丢失
优点:
• 开发测试很方便

相关文章

  • [JiChu2]研究MemStateBackend

    第一种是内存存储,即 MemoryStateBackend,构造方法是设置最大的StateSize,选择是否做异步...

  • [JiChu2]Savepoint VS Checkpoint

  • 研究研究

    爱死佳爷了,龙哥虽然很爆很污但很率直很聪明,事半功倍的事还是要多做一些,我们就是要一路开挂,研究才是硬道理。 芥末...

  • 研究要研究之事

    提到做研究,我总是惶恐的。因为不清楚,不敢轻易开口。在这么多天的看书研究和交流之后,虽然粗粗明白了一些,...

  • 研究

    许岑关于研究原汁原味的分享给大家,仁者见仁,智者见智。不仅用于研究英文,主要是研究的方法论和实操手册,实...

  • 研究

    文/小来 《研究》 我一直想着 能否用最上好的材料 把我的肚子 打造成一口不锈钢锅 以便来防止那些 会把我肠胃弄疼的水货

  • 研究

  • 研究

    要对每一个你身边的人,包括上司和下属进行研究,研究适合他(她)们的相处模式。 有一种沟通模式看来是有效的:从推动工...

  • 研究

    (中国人在国外生活二十年后重拾汉语)探究汉语遗忘规律

  • 研究

    中国手语在汉语初级课堂中的应用可行性

网友评论

    本文标题:[JiChu2]研究MemStateBackend

    本文链接:https://www.haomeiwen.com/subject/zlxchltx.html