主从复制
介绍
主从复制 只能处理物理损坏，至于逻辑损坏只能使用备份恢复
1.1. 基于二进制日志复制的
1.2. 主库的修改操作会记录二进制日志
1.3. 从库会请求新的二进制日志并回放,最终达到主从数据同步
1.4. 主从复制核心功能:
辅助备份,处理物理损坏
扩展新型的架构:高可用,高性能,分布式架构等
前提
2.1 两台以上mysql实例 ,server_id,server_uuid不同
2.2 主库开启二进制日志
show variables like '%log_bin%';
2.3 专用的复制用户
grant replication slave on *.* to repl@'192.168.122.%' identified by '123';
2.4 保证主从开启之前的某个时间点,从库数据是和主库一致(补课)
mysqldump -uroot -p123 -A -R -E --triggers --master-data=2 --single-transaction > /tmp/mysql.sql ##复制从库恢复
set sql_log_bin=0
source /root/mysql.sql
vim /tmp/mysql.sql
-- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000002', MASTER_LOG_POS=489;
2.5 告知从库,复制user,passwd,IP port,以及复制起点(change master to)
help change master to; 帮助文件
从库执行
CHANGE MASTER TO
MASTER_HOST='192.168.122.103',
MASTER_USER='repl',
MASTER_PASSWORD='123',
MASTER_PORT=3306,
MASTER_LOG_FILE='mysql-bin.000002',
MASTER_LOG_POS=489,
MASTER_CONNECT_RETRY=10; ##重试超时10次 可省略
2.6 线程(三个):Dump thread IO thread SQL thread 开启(start slave)
start slave;启动从库
show slave status \G 查看主从信息
状态信息
3306 [(none)]>show slave status \G
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
/* Master_Host: 192.168.122.103
Master_User: repl
Master_Port: 3306
Connect_Retry: 10
Master_Log_File: mysql-bin.000002
Read_Master_Log_Pos: 489 */ 以上主库的信息
/ * Relay_Log_File: db02-relay-bin.000003
Relay_Log_Pos: 320 * / 从库中继日志的状态
Relay_Master_Log_File: mysql-bin.000002
/* Slave_IO_Running: Yes
Slave_SQL_Running: Yes */ 主从状态
Replicate_Do_DB:
Replicate_Ignore_DB:
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 489
Relay_Log_Space: 526
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
/* Seconds_Behind_Master: 0 */ 主从延时的状态 主库的数据在从库延时 非人为
Master_SSL_Verify_Server_Cert: No
/* Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error: */ 具体的报错信息
Replicate_Ignore_Server_Ids:
Master_Server_Id: 6
Master_UUID: 5e873241-2e38-11eb-bd96-5254001adc46
Master_Info_File: /data/mysql/master.info
/* SQL_Delay: 0
SQL_Remaining_Delay: NULL */ 延时从库信息 可以配置从库延时多少时间执行
Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
Master_Retry_Count: 86400
Master_Bind:
Last_IO_Error_Timestamp:
Last_SQL_Error_Timestamp:
Master_SSL_Crl:
Master_SSL_Crlpath:
/* Retrieved_Gtid_Set:
Executed_Gtid_Set: 30b767c7-2e2b-11eb-b5f8-5254001adc46:1-9,
5e873241-2e38-11eb-bd96-5254001adc46:1
Auto_Position: 0 */ gtid 复制的相关参数
Replicate_Rewrite_DB:
Channel_Name:
Master_TLS_Version:
1 row in set (0.00 sec)
主从复制的原理
主:
mysql-bin.000001
从:
db01-relay.000001 ===>中继日志
master.info ===》主库信息记录日志
relay-log.info ===> 记录中继应用情况信息
主:
DUMP THREAD binlog_dump_thread:DT
从:
IO THREAD slave_io_thread:IT
SQL THREAD slave_sql_thread:ST
图片.png
原理描述：
1.change master to 时，ip pot user password binlog position写入到master.info进行记录
2. start slave 时，从库会启动IO线程和SQL线程
3.IO_T，读取master.info信息，获取主库信息连接主库
4. 主库会生成一个准备binlog DUMP线程，来响应从库
5. IO_T根据master.info记录的binlog文件名和position号，请求主库DUMP最新日志
6. DUMP线程检查主库的binlog日志，如果有新的，TP(传送)给从从库的IO_T
7. IO_T将收到的日志存储到了TCP/IP 缓存，立即返回ACK给主库 ，主库工作完成
8.IO_T将缓存中的数据，存储到relay-log日志文件,更新master.info文件binlog 文件名和postion，IO_T工作完成
9.SQL_T读取relay-log.info文件，获取到上次执行到的relay-log的位置，作为起点，回放relay-log
10.SQL_T回放完成之后，会更新relay-log.info文件。
11. relay-log会有自动清理的功能。
细节：
1.主库一旦有新的日志生成，会发送“信号”给binlog dump ，IO线程再请求
主从复制故障：
1.主库ip 端口 用户 密码 等等连接不正确 处理如下：
Last_IO_Error: error reconnecting to master 'repl@10.0.0.51:3307' - retry-time: 10 retries: 7
手动使用复制用户密码连接下 是否正常 然后
stop slave
reset slave all 清空slave信息
change master to
start slave
2.主库连接数
show slave staus \G
Last_IO_Errno: 1040
Last_IO_Error: error reconnecting to master 'repl@10.0.0.51:3307' - retry-time: 10 retries: 7
处理思路:
拿复制用户,手工连接一下
[root@db01 ~]# mysql -urepl -p123 -h 10.0.0.51 -P 3307
mysql: [Warning] Using a password on the command line interface can be insecure.
ERROR 1040 (HY000): Too many connections
处理方法:
db01 [(none)]>set global max_connections=300;
3.主库缺失日志
从库方面,二进制日志位置点不
reset master; 主库执行命令
ast_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'could not find next log; the first event 'mysql-bin.000002' at 489, the last event read from '/data/binlog/mysql-bin.000002' at 673, the last byte read from '/data/binlog/mysql-bin.000002' at 673.'
注意: 在主从复制环境中,严令禁止主库中reset master; 可以选择expire 进行定期清理主库二进制日志
处理方法:
重新做主从
SQL故障
(1)读写relay-log.info
(2)relay-log损坏,断节,找不到
(3)接收到的SQL无法执行
原因分析：
1. 版本差异，参数设定不同，比如：数据类型的差异，SQL_MODE影响
2.要创建的数据库对象,已经存在
3.要删除或修改的对象不存在
4.DML语句不符合表定义及约束时.
归根揭底的原因都是由于从库发生了写入操作.
Last_SQL_Error: Error 'Can't create database 'db'; database exists' on query. Default database: 'db'. Query: 'create database db'
解决方式：
方法一：
stop slave;
set global sql_slave_skip_counter = 1; ##如果开启gtid 无法执行
#将同步指针向下移动一个，如果多次不同步，可以重复操作。
start slave;
方法二：
/etc/my.cnf
slave-skip-errors = 1032,1062,1007
常见错误代码:
1007:对象已存在
1032:无法执行DML
1062:主键冲突,或约束冲突
但是，以上操作有时是有风险的，最安全的做法就是重新构建主从。把握一个原则,一切以主库为主.
一劳永逸
(1) 可以设置从库只读.
db01 [(none)]>show variables like '%read_only%';
注意：
只会影响到普通用户，对管理员用户无效。
(2)加中间件
读写分离。
从库延时 MTS
延时分析：主库
(1) 二进制日志写入不及时
[rep]>select @@sync_binlog;
(2) CR的主从复制中,binlog_dump线程,事件为单元,串行传送二进制日志(5.6 5.5)
1. 主库并发事务量大,主库可以并行,传送时是串行
2. 主库发生了大事务,由于是串行传送,会产生阻塞后续的事务.
解决方案:
1. 5.6 开始,开启GTID,实现了GC(group commit)机制,可以并行传输日志给从库IO
2. 5.7 开始,不开启GTID,会自动维护匿名的GTID,也能实现GC,我们建议还是认为开启GTID
3. 大事务拆成多个小事务,可以有效的减少主从延时.
延时分析：从库
SQL线程导致的主从延时
在CR复制情况下: 从库默认情况下只有一个SQL,只能串行回放事务SQL
1. 主库如果并发事务量较大,从库只能串行回放
2. 主库发生了大事务,会阻塞后续的所有的事务的运行
解决方案:
1. 5.6 版本开启GTID之后,加入了SQL多线程的特性,但是只能针对不同库(database)下的事务进行并发回放.
2. 5.7 版本开始GTID之后,在SQL方面,提供了基于逻辑时钟(logical_clock),binlog加入了seq_no机制,
真正实现了基于事务级别的并发回放,这种技术我们把它称之为MTS(enhanced multi-threaded slave).
3. 大事务拆成多个小事务,可以有效的减少主从延时.
网友评论