美文网首页
kafka日志保留策略异常处理

kafka日志保留策略异常处理

作者: 萝卜小青菜丶 | 来源:发表于2020-03-02 22:32 被阅读0次

问题现象

文件系统监控,以肉眼可见的速度增大使用空间


查看当前日志保留策略配置,关键配置如下:

存在风险

日志片大小设置为1G(log.segment.bytes默认大小也是1G),删除策略需要等到日志分片后才能被标记为删除,如没有设置分片时间的话,需要等写满日志片,或是等到7天(默认时间)没有数据写入后,才会自动分片。

针对问题处理方案

可以适当降低log.segment.bytes 大小为512M,设置segment.bytes 大小为 512M,手动设置分片时间 log.roll.hours ,

参考: kafka 数据定时删除实验

处理步骤

1.停止kafka服务

a) 找出kafka进程号,使用命令jps

b) 杀掉kafka进程,使用命令 kill -9 xxx

c) 查看当前kafka进程是否还存在,ps -ef|grep kafka jps

2.修改配置

vi $KAFKA_HOME/config/server.properties

修改配置:

log.segment.bytes=536870912

添加配置:

segment.bytes=536870912

log.roll.hours=12

3.启动kafka服务

./bin/start_kafka.sh

4.检查状态

ps -ef|grep kafka

jps

5.依次操作其它服务器

相关文章

  • kafka日志保留策略异常处理

    问题现象 文件系统监控,以肉眼可见的速度增大使用空间 查看当前日志保留策略配置,关键配置如下: 存在风险 日志片大...

  • Kafka的日志清理-LogCleaner

    这里说的日志,是指Kafka保存写入消息的文件; Kafka日志清除策略包括中间:基于时间和大小的删除策略;Com...

  • kafka 消息堆积解决

    一 :背景 线上kafka消费端因日志异常的解决导致消息堆积。 二 : 日志异常解决导致消息堆积 线上kafka消...

  • 策略模式处理不同邮箱异常

    顶层策略接口 qq邮箱异常处理策略 outlook邮箱处理策略 新增的网易邮箱异常处理策略 策略上下文 邮箱类型枚...

  • Kafka 概述

    Kafka 能用来干嘛? 消息队列 实时数据处理, 流式处理(一般结合storm) 日志聚合等 Kafka 架构 ...

  • PHP异常的捕获及处理

    系统自带异常处理 自定义异常处理 捕捉多个异常 日志记录 备注: register_shutdown_functi...

  • kafka和rocketmq

    kafka:日志传输rocketmq:订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发 0. ...

  • Kafka消费异常处理

    1.Exception: org.apache.kafka.clients.consumer.CommitFail...

  • Kafka 基本原理

    目录 简介Kafka架构Kafka存储策略Kafka删除策略Kafka brokerKafka DesignThe...

  • ASP.NET Core 异常处理与日志记录

    1. ASP.NET Core 异常处理与日志记录1.1. 异常处理1.1.1. 异常产生的原因及处理1.1.2....

网友评论

      本文标题:kafka日志保留策略异常处理

      本文链接:https://www.haomeiwen.com/subject/qjswkhtx.html