美文网首页中间件
Kafka文件的存储

Kafka文件的存储

作者: 任嘉平生愿 | 来源:发表于2018-12-31 12:30 被阅读2次

kafka文件存储形式

每个partition为一个目录,partition命名的规则是topic的名称加上一个序号,序号从0开始。

例如: topiclog-0 topiclog-1

每个partition下都会有一个的segment段,segment可以设置默认500M。

kafka保证顺序性必须partition=1,否则就是局部有序全局无序。

Segment文件命名的规则:

partition全局的第一个segment从0(20个0)开始,后续的每一个segment文件名是上一个segment文件中最后一条消息的offset值。

这样非常好定位下一个消息应该从哪里消费。

1.找到两个文件中间的值包含当前offset。

2.根据这个文件的segment-index找到对应的segment-data.

Kafka文件的存储机制 - 学不死 - 博客园

相关文章

  • Kafka 日志存储

    Kafka 中的底层存储设计 Segment 是kafka文件存储的最小单位 日志存放目录 kafka_2.10...

  • Kafka - 存储和索引

    Kafka文件存储机制那些事 kafka分区、分段、稀疏索引实现高性能查询 kafka log文件格式

  • Kafka高效文件存储设计特点

    Kafka高效文件存储设计特点

  • Kafka文件的存储

    kafka文件存储形式 每个partition为一个目录,partition命名的规则是topic的名称加上一个序...

  • Kafka数据存储流程和原理概述

    Kafka高效文件存储设计特点: Kafka把topic中一个parition大文件分成多个小文件段,通过多个小文...

  • kafka删除topic及其相关数据

    kafka删除topic及其相关数据 1、删除kafka存储目录(server.properties文件log.d...

  • kafka2实现原理二

    3.Partition Replication原则 Kafka高效文件存储设计特点 Kafka把topic中一个p...

  • Kafka文件存储机制

    Kafka文件存储机制需要从以下4个步骤进行分析 (1) topic中partition存储分布(2) parti...

  • Kafka-文件存储

    1.文件存储机制 副本数=leader+follower总数,但是不允许同一个分区在同一台broker下面 每一个...

  • kafka文件存储机制

    一,kafka简介 Kafka最初由Linkedin公司开发的分布式、分区的、多副本的、多订阅者的消息系统。它...

网友评论

    本文标题:Kafka文件的存储

    本文链接:https://www.haomeiwen.com/subject/hnvilqtx.html