美文网首页
kafka实战总结(二)

kafka实战总结(二)

作者: 阔阔飞翔 | 来源:发表于2019-01-02 10:51 被阅读0次

紧接着实战总结(一)中存在的问题

一、由于消费者处理速度慢,一条数据过来后,入库很慢,造成延时,这里我采取的方案是使用多线程来加快处理速度。开始我使用定长线程池fixedThreadPool,个数是10个,部署到服务器上跑了一天,发现服务器cpu爆满,开始查原因,原来是定长线程池fixedThreadPool中使用的是LinkedBlockingQueue这个队列,这个队列如果没有没有指定长度,那么它是个无界队列,如果指定长度,那就是个有界队列。定长线程池fixedThreadPool中使用时就没有指定长度,网上说是因为线程不释放造成cpu爆满,采取的方案是自定义线程池,如上图所示,线程池长度是10,队列长度是10万。部署到服务器跑了一天,发现还是延时了,查资料,有的说是因为数据库连接关闭次数太多导致IO访问次数太频繁,有的说要批量插入,但都不符合我们的场景。这里我增加了线程数到50个,部署到服务器跑了四天,并未延时。后面需要再调调线程数看看,会不会延时。

二、实战总结(一)中使用手动提交(Acknowledgment),使用多线程处理时发现ack确认提交时很慢,无法达到我想要的效果,所以这里采用了自动提交,因为多线程处理,处理很快,也就不会造成数据重复

相关文章

  • kafka实战总结(二)

    紧接着实战总结(一)中存在的问题 一、由于消费者处理速度慢,一条数据过来后,入库很慢,造成延时,这里我采取的方案是...

  • kafka学习系列

    Kafka学习总结(一)——Kafka简介 Kafka学习总结(二)——Kafka设计原理 Kafka学习总结(三...

  • kafka生产环境规划-kafka商业环境实战

    kafka线上真实环境实战及调优进阶系列 kafka 商业环境实战-kafka生产环境规划 kafka 商业环境实...

  • kafka实战总结(一)

    一、技术说明 springboot2.0 kafka1.0.2 spring-kafka 采用配置文件的方式配置k...

  • Flink Kafka Doris实战demo

    Flink Kafka Doris实战demo 环境: Flink 1.12 Doris 0.12 Kafka 1...

  • kafka1:分布式部署

    1.参考 kafka 集群--3个broker 3个zookeeper创建实战 细细品味Kafka_Kafka简...

  • 2 Kafka 基本结构(Kafka 0.11.0.2)

    此处内容来自书籍Apache Kafka 实战一书(作者胡夕) 1Kafka Zookeeper路径 Kafka中...

  • kafka学习笔记-kafka基础

    参考:极客时间-Kafka核心技术与实战 kafka术语 消息(Record):kafka要处理的主要对象。 主题...

  • Kafka的基本概念

    参考数据《Apache Kafka实战》 Kafka功能架构 Kafka 的标准定位是分布式流式处理平台 核心架构...

  • Kafka视频集

    kafka企业级入门实战完整版 Kafka系列教程 Kafka入门 分布式消息通信Kafka原理剖析 阿里架构师直...

网友评论

      本文标题:kafka实战总结(二)

      本文链接:https://www.haomeiwen.com/subject/ndvalqtx.html