手机版
网站地图
美文美图
最新动态
你好,欢迎访问
好美文阅读网
个性皮肤
搜索
网站首页
美文
文章
散文
日记
诗歌
小说
故事
句子
作文
签名
祝福语
情书
范文
读后感
文学百科
美文摘抄
节日文章
名家散文
网名大全
座右铭
口号大全
面试技巧
说说大全
阅读答案
诗词默写
流言蜚语
节日祝福
好句子
经典台词
谚语大全
亲情故事
友情故事
表白情书
工作报告
活动总结
心得体会
专题汇总
美文网首页
1、Kafka保证高可用性
1、Kafka保证高可用性
作者:
呢看了看
| 来源:发表于
2020-05-22 09:49 被阅读0次
Kafka一个最基本的架构认识:多个Broker组成,每个Broker是一个节点;你创建一个topic,这个topic可以划分为多个partitipn,每个partition可以存在于不同的broker上,每个partition 就放一部分数据。
这就是天然的分布式消息队列,就是说一个topic的数据,是分散在多个机器的,每个机器就放一部分数据。
实际上rabbitmq之类的,并不是分布式消息队列,他就是传统的消息队列,只不过是提供了了一些集群、HA的机制而已,因为无论怎么玩儿,rabbitmq一个queue的数据都是放在一个节点里的。镜像集群下,也是每个节点都放这个queue的完整数据。
Kafka 0.8以前,是没有HA机制的,就是任何一个Broker宕机了,那个broker上的partition就废了,没法写也没法读,没有什么高可用而言。
Kafka 0.8以后,提供了HA机制,就是replica副本机制。每个partition的数据都会同步给其他机器上,形成自己的多个replica副本。然后所有replica会选举出来一个leader出来,那么生产和消费都跟这个leader打交道,然后其他replica就是follower。写的时候,leader会负责把数据同步到所有follower上去,读的时候就直接读leader上数据即可。只能读写leader?很简单,要是你可以随意读写每个follower,那么就要care数据一致性的问题,系统复杂度太高,很容易出问题。Kafka会均匀的将一个partition的所有replica分布在不同的机器上,这样才可以提高容错性。
这么搞,就有所谓的高可用性了,因为如果某个Broker宕机了,没事儿,那个Broker上面的partition在其他机器上都有副本的,如果这上面有某个partition的leader,那么此时会重新选举出来一个新的leader出来,大家继续读写那个新的leader即可。这就有所谓的高可用性了。
写数据的时候,生产者就写leader,然后leader将数据落地写本地磁盘,接着其他follower自己主动从leader来pull数据。一旦所有follower同步好数据了,就会发送ack给leader,leader收到所有follower的ack之后,就会返回写成功的消息给生产者。(当然,这只是其中的一个模式,还可以适当调整这个行为)。消费的时候,只会从leader去读,但是只有一个消息已经被所有follower都同步成功返回ack的时候,这个消息才会被消费者读到。
相关文章
网友评论
本文标题:
1、Kafka保证高可用性
本文链接:
https://www.haomeiwen.com/subject/nubfahtx.html
延伸阅读
那年盛夏诗歌
环境监察队工作总结范文
优秀教师学习心得范文
华胥引的读后感300字
《Its red》教学反思范文
农资购销的合同范本
竞选中队委优秀演讲稿
辞金蹈海的成语解释
《世纪宝鼎》公开课教案设计
因为爱你,所以牵挂
今生今世红尘醉——美到
一个90后的内心独白
致已逝去的高中年华
深度阅读
您也可以注册成为美文阅读网的作者,发表您的原创作品、分享您的心情!
情人节
母亲节
重阳节
清明节
端午节
植树节
元宵节
妇女节
愚人节
圣诞节
父亲节
教师节
儿童节
劳动节
青年节
建军节
万圣节
平安夜
光棍节
中秋节
国庆节
感恩节
腊八节
更多话题
栏目导航
摄影
故事
互联网
读书
旅行
热点阅读
ReactElement、ReactNode以及JSX.Elem
《小红马》约翰•斯坦贝克
利用外患 巩固权力
一滴水的内容
在
重分析,不擅长设计
雪茄品吸步骤需知
沈阳焦煤鸡西盛隆矿业有限责任公司煤矸石电厂排污信息公开表
诗词之美
武侯千古7
网友评论