美文网首页
Canal系列~最佳实践

Canal系列~最佳实践

作者: 开心的蛋黄派 | 来源:发表于2024-01-23 16:17 被阅读0次

    一、版本选择

    选择1.1.6以及更高版本,并引入canal_admin平台管理

    二、 上游MySQL切换

    在GTID模式下,消费实例配置VIP域名,当主从发生切换后

    1 主动,需要手工kill dump线程,会重建连接

    2 被动, 忽略,会重建连接

    三、ZooKeeper常用命令

    ZooKeeper作为Canal的协调服务,提供了丰富的命令来管理和监控Canal集群。常用命令包括:

    get /otter/canal/destinations/test_run/running:获取当前运行的Canal主节点信息。

    get /otter/canal/destinations/test_run/1001/cursor:获取消费位点信息,用于监控消费进度和状态。

    get /otter/canal/destinations/test_run/cluster:获取运行的集群信息,包括主备节点的状态和配置。

    zk存储位点信息,以下信息都会读取位点信息

    1 当canal实例下线又上线 2 canal 集群发生HA 

    四、kafka

    1 如果下游kafka已开启自动创建topic策略,canal会自动在kafka创建topic(如果上游mysql没有产生相应的binlog消费,topic同样不会出现),否则需要手动创建下topic

    2  canal默认只写入kafka一个分区,如果想写入多分区,需要额外配置分库分表策略,维护成本高,不建议采用

    五、实例复用策略

    消费实例以库为维度,有新的消费可以进行进行复用消费实例

    六、监控链

    1、canal进程 

    2、canal instance 延时

    3、 kafka-group 消费延时

    相关文章

      网友评论

          本文标题:Canal系列~最佳实践

          本文链接:https://www.haomeiwen.com/subject/wirgwdtx.html