美文网首页
分布式消息Kafka

分布式消息Kafka

作者: kuntoria | 来源:发表于2018-07-16 13:55 被阅读0次

    Kafka是一个分布式的、可分区的、可复制的消息系统。它提供了普通消息系统的功能,但具有自己独特的设计。这个独特的设计是什么样的呢?

    首先让我们看几个基本的消息系统术语:

    Kafka将消息以topic为单位进行归纳。

    将向Kafka topic发布消息的程序成为producers.

    将预订topics并消费消息的程序成为consumer.

    Kafka以集群的方式运行,可以由一个或多个服务组成,每个服务叫做一个broker.

    producers通过网络将消息发送到Kafka集群,集群向消费者提供消息,如下图所示:

    客户端和服务端通过TCP协议通信。Kafka提供了Java客户端,并且对多种语言都提供了支持。

    Topics 和Logs

    先来看一下Kafka提供的一个抽象概念:topic.

    一个topic是对一组消息的归纳。对每个topic,Kafka 对它的日志进行了分区,如下图所示:

    每个分区都由一系列有序的、不可变的消息组成,这些消息被连续的追加到分区中。分区中的每个消息都有一个连续的序列号叫做offset,用来在分区中唯一的标识这个消息。

    在一个可配置的时间段内,Kafka集群保留所有发布的消息,不管这些消息有没有被消费。比如,如果消息的保存策略被设置为2天,那么在一个消 息被发布的两天时间内,它都是可以被消费的。之后它将被丢弃以释放空间。Kafka的性能是和数据量无关的常量级的,所以保留太多的数据并不是问题。

    实际上每个consumer唯一需要维护的数据是消息在日志中的位置,也就是offset.这个offset有consumer来维护:一般情 况下随着consumer不断的读取消息,这offset的值不断增加,但其实consumer可以以任意的顺序读取消息,比如它可以将offset设置 成为一个旧的值来重读之前的消息。

    以上特点的结合,使Kafka consumers非常的轻量级:它们可以在不对集群和其他consumer造成影响的情况下读取消息。你可以使用命令行来"tail"消息而不会对其他正在消费消息的consumer造成影响。

    将日志分区可以达到以下目的:首先这使得每个日志的数量不会太大,可以在单个服务上保存。另外每个分区可以单独发布和消费,为并发操作topic提供了一种可能。

    分布式每个分区在Kafka集群的若干服务中都有副本,这样这些持有副本的服务可以共同处理数据和请求,副本数量是可以配置的。副本使Kafka具备了容错能力。

    想要更多了解大数据的小伙伴们可以到科多大数据进行咨询哟~~~

    相关文章

      网友评论

          本文标题:分布式消息Kafka

          本文链接:https://www.haomeiwen.com/subject/jrqbpftx.html