美文网首页Zookeeper
清理Zookeeper的历史数据

清理Zookeeper的历史数据

作者: 王某某的笔记 | 来源:发表于2018-04-21 16:34 被阅读1165次

zkCleanup

zookeeper使用一段时间后占用了非常多的磁盘空间

[root@node2 zookeeper]# du -h --max-dept=1
294G    ./version-2
294G    .

使用自带的zkCleanup进行清理

./zkCleanup.sh 
Usage:
PurgeTxnLog dataLogDir [snapDir] -n count
        dataLogDir -- path to the txn log directory
        snapDir -- path to the snapshot directory
        count -- the number of old snaps/logs you want to keep, value should be greater than or equal to 3
[root@node2 bin]# ./zkCleanup.sh /data/zookeeper -n 5

......
Removing file: Mar 10, 2018 7:57:04 PM  /data/zookeeper/version-2/log.3150c663239
Removing file: Feb 4, 2018 5:39:46 AM   /data/zookeeper/version-2/log.313054d1843
Removing file: Apr 20, 2018 7:40:19 PM  /data/zookeeper/version-2/log.31607ac00d7
Removing file: Apr 6, 2018 3:33:47 PM   /data/zookeeper/version-2/log.3153be932d2
Removing file: Mar 31, 2018 3:46:12 PM  /data/zookeeper/version-2/log.3152f255a35
Removing file: Mar 19, 2018 1:28:12 AM  /data/zookeeper/version-2/log.31516d3c5d7
Removing file: Jan 16, 2018 10:16:43 AM /data/zookeeper/version-2/log.31205b9f349
Removing file: Mar 26, 2018 7:05:37 AM  /data/zookeeper/version-2/log.315245d23e8
Removing file: Apr 12, 2018 6:31:10 AM  /data/zookeeper/version-2/log.31548340db4
......

设置自动清理

修改zoo.cfg配置文件中的 autopurge.snapRetainCount 和 autopurge.purgeInterval 两个参数实现定时清理

去掉注释即可

# The number of snapshots to retain in dataDir
autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
autopurge.purgeInterval=1

autopurge.purgeInterval 这个参数指定了清理频率,单位是小时,需要填写一个1或更大的整数,默认是0,表示不开启自动清理功能。

autopurge.snapRetainCount 这个参数和上面的参数搭配使用,这个参数指定了需要保留的快照文件数目,默认是保留3个。

相关文章

  • 清理Zookeeper的历史数据

    zkCleanup zookeeper使用一段时间后占用了非常多的磁盘空间 使用自带的zkCleanup进行清理 ...

  • 13、Zookeeper问题汇总

    1、Zookeeper集群如何增加或减少机器 2、Zookeeper清理快照文件 开启参数自动清理autopurg...

  • Zookeeper日志清理

    周末的时候在家收到了工作的告警通知,远程登录后发现是自运维的CK集群硬盘空间不足,通过命令查看各个目录的大小,确定...

  • Kafka 快速入门指南

    本教程假设你是新手,没有 Kafka 或 ZooKeeper 的历史数据。由于 Kafka 自带的控制台脚本在 U...

  • 系统设计:任务调度中心

    关键点 任务配置同步监听同步zookeeper节点变化节点的变化映射job的变化(对比节点历史数据快照) 分布式z...

  • zookeeper日志定时清理

    #!/bin/bash #snapshot file dir dataDir=/home/biran/develo...

  • 分布式容错系统设计

    系统设计上考虑实时数据服务集群和历史数据服务集群。实时数据服务集群采用Zookeeper集群管理技术,搭建...

  • RabbitMQ单机多实例集群搭建

    在单机环境下,配置RabbitMQ集群(以三个节点为例) 清理单机版中历史数据 分别启动三个RabbitMQ节点 ...

  • Mysql表通过存储过程删除生产表数据

    在建设实时数仓的过程中,用到了Mysql存放增量的结果数据,所以需要定时清理历史数据,为了避免影响的线上的实时数据...

  • etcd miantain历史数据压缩碎片清理

    overview 由于etcd保留了集群中所有版本的确切的历史记录,所以需要定期压缩历史记录以避免性能下降及最终将...

网友评论

    本文标题:清理Zookeeper的历史数据

    本文链接:https://www.haomeiwen.com/subject/wygxlftx.html