一、版本选择
选择1.1.6以及更高版本,并引入canal_admin平台管理
二、 上游MySQL切换
在GTID模式下,消费实例配置VIP域名,当主从发生切换后
1 主动,需要手工kill dump线程,会重建连接
2 被动, 忽略,会重建连接
三、ZooKeeper常用命令
ZooKeeper作为Canal的协调服务,提供了丰富的命令来管理和监控Canal集群。常用命令包括:
get /otter/canal/destinations/test_run/running:获取当前运行的Canal主节点信息。
get /otter/canal/destinations/test_run/1001/cursor:获取消费位点信息,用于监控消费进度和状态。
get /otter/canal/destinations/test_run/cluster:获取运行的集群信息,包括主备节点的状态和配置。
zk存储位点信息,以下信息都会读取位点信息
1 当canal实例下线又上线 2 canal 集群发生HA
四、kafka
1 如果下游kafka已开启自动创建topic策略,canal会自动在kafka创建topic(如果上游mysql没有产生相应的binlog消费,topic同样不会出现),否则需要手动创建下topic
2 canal默认只写入kafka一个分区,如果想写入多分区,需要额外配置分库分表策略,维护成本高,不建议采用
五、实例复用策略
消费实例以库为维度,有新的消费可以进行进行复用消费实例
六、监控链
1、canal进程
2、canal instance 延时
3、 kafka-group 消费延时
网友评论