美文网首页
Kafka高效读写

Kafka高效读写

作者: 大空翼123 | 来源:发表于2022-01-26 17:29 被阅读0次

     Kafka高效读写数据

    1Kafka本身是分布式集群,同时采用分区技术,并发度高。

    2)顺序写磁盘

    Kafka的producer生产数据,要写入到log文件中,写的过程是一直追加到文件末端,为顺序写。官网有数据表明,同样的磁盘,顺序写能到600M/s,而随机写只有100K/s。

    3)零复制技术

    数据直接在内核完成输入和输出,不需要拷贝到用户空间再写出去。

    kafka数据写入磁盘前,数据先写到进程的内存空间

    4)mmap文件映射

    把硬盘文件映射到内存中进行高效操作

    相关文章

      网友评论

          本文标题:Kafka高效读写

          本文链接:https://www.haomeiwen.com/subject/gwypxrtx.html