美文网首页中间件kafka
kafka如何保证顺序性

kafka如何保证顺序性

作者: 任嘉平生愿 | 来源:发表于2019-01-03 11:32 被阅读1683次

    1.Kafka 可以保证同一个分区里的消息是有序的。也就是说消息发送到一个Partition 是有顺序的。

    kafka系列-kafka多分区的情况下保证数据的有序性 - weixin_41279060的博客 - CSDN博客

    这篇文章解决的本质还是将相同数据发送到一个Partition中,注意发送消息可以指定分区。

    java math.abs(x)是取绝对值

    2.参数设置

    retires  设为大于1

    max.in.flight.request.per.connection 设为1

    max.in.flight.requests.per.connection意思

    指定了生产者在接收到服务器响应之前可以发送多个消息,值越高,占用的内存越大,当然也可以提升吞吐量。发生错误时,可能会造成数据的发送顺序改变,默认是5 。

    解释:max.in.flight.request.per.connection 设为1的时候也就是说只接受1条数据当接受到2而1没有收到则会从

    retires  重新获取,这样就会等1到了再取请求2数据。

    全局顺序

    的解决办法通常是最为保守的方式:

    全局使用一个生产者

    全局使用一个消费者(并严格到一个消费线程)

    全局使用一个分区(当然不同的表可以使用不同的分区或者topic实现隔离与扩展)

    局部顺序

    同一key分发到同一partition上面.

    private int partitionDefine(String keyToPartition) {

    if (keyToPartition == null) {

    return new Random().nextInt(numPartitions);

    } else {

    return Math.abs(keyToPartition.hashCode()) % numPartitions;

    }

    }

    相关文章

      网友评论

        本文标题:kafka如何保证顺序性

        本文链接:https://www.haomeiwen.com/subject/bfgxrqtx.html