我们在Docker下安装了MySQL,那什么时候就要开始考虑搭建主备架构呢, 一方面是随着业务增长,读写请求已经到达了一定的瓶颈时,我们需要考虑,另一方面为了保证数据的完整性,以保证主宕机的时候,可以快速切换。
一、主备什么,为什么要用主备?
主备通俗的来说,就是数据复制。建立一个备库,和主数据库一模一样的数据库环境。 那主备能给我们做什么呢?
-
准实时备份,保证数据的完整性。当主宕机后,可以进行快速切换。
当主库宕机时,需要通过中间件(mycat)把备库切换为主库,来实现高可用。
-
做读写分离,将读写压力分散。
当读写平衡时候,主机主要用来写操作,备库进行读操作。
如果发现备库读的压力太大,那我们就需要扩展出新的节点。
-
进行业务扩展。
二、主备的流程
原理:是基于二进制日志(binlog)进行数据增量同步。
- Master 服务器会把数据变更产生的二进制日志(bin log)通过 Dump 线程发送给 Slave 服务器。
- Slave 服务器中的 I/O 线程负责接受二进制日志,并保存为中继日志(relay log)。
- Slave再起一个线程读取中继日志(relay log),并在Slave执行,完成同步。
三、在Docker下搭建主备环境
MySQL笔记 | 2.Docker下搭建MySQL&查看BinLog文件
步骤一:新建一个备库
我们在之间的文章中已经在Docker中搭建了一个3306的数据环境,为了满足主备的需要。
我们在搭建一个备库的环境。
docker run -p 3307:3306 --name mysql_slave
-v /opt/mysql/slave/conf:/etc/mysql/conf.d
-v /opt/mysql/slave/logs:/logs
-v /opt/mysql/slave/data:/var/lib/mysql
-e MYSQL_ROOT_PASSWORD=123456 -d mysql
可以选择在服务器上新建data、logs、conf来映射docker里面的文件,这样 我们就可以在外面修改信息了。
步骤二:查看是否安装成功
[root@。。。 /]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
8b3fe3977bed mysql "docker-entrypoint.s…" 7 seconds ago Up 5 seconds 33060/tcp, 0.0.0.0:3307->3306/tcp, :::3307->3306/tcp mysql_slave
f7e9a7e047ac mysql "docker-entrypoint.s…" 6 days ago Up 6 days 0.0.0.0:3306->3306/tcp, :::3306->3306/tcp, 33060/tcp mysql
935090dd3061 apachephp:v1 "/usr/bin/supervisord" 8 days ago Up 8 days 0.0.0.0:8080->80/tcp, :::8080->80/tcp vigorous_borg
ff7f2bea7cc3 e121d5f99e1e "/usr/bin/supervisord" 8 days ago Up 8 days 80/tcp apache
没什么问题,确定了有两个端口的环境,3306和3307.
步骤三:查看是不是得到了不同的IP
[root@iZ8vb7xgouhcfciakm9plqZ /]# docker inspect --format='{{.NetworkSettings.IPAddress}}' f7e9a7e047ac
172.17.0.4
[root@iZ8vb7xgouhcfciakm9plqZ /]# docker inspect --format='{{.NetworkSettings.IPAddress}}' 8b3fe3977bed
172.17.0.5
已经分配了 两个Ip,Master 服务器地址是 172.17.0.4 ,Slave 服务器地址是 172.17.0.5,MySQL 的端口号都为 3306。
步骤四:进行主环境的my.cnf文件配置修改
进入Bash
[root@。。。 /]# docker exec -it f7e9a7e047ac /bin/bash
root@f7e9a7e047ac:/# mysql -uroot -p
修改my.cnf,在这里面有一些需要注意的细节
[mysqld]
## 设置server_id,一般设置为IP,同一局域网内注意要唯一,如果相同,则它们之间不能设定为主备关系
server_id=100
## 复制过滤:也就是指定哪个数据库不用同步(mysql库一般不同步)
binlog-ignore-db=mysql
## 开启二进制日志功能,可以随便取,最好有含义(关键就是这里了)
log-bin=edu-mysql-bin
## 为每个session 分配的内存,在事务过程中用来存储二进制日志的缓存
binlog_cache_size=1M
## 主从复制的格式(mixed,statement,row,默认格式是statement)
binlog_format=mixed
## 二进制日志自动删除/过期的天数。默认值为0,表示不自动删除。
expire_logs_days=7
## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。
## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致
slave_skip_errors=1062
第一次打开my.cnf,可能会出现vi: command not found
root@8b3fe3977bed:/etc/mysql# vi my.cnf bash: vi: command not found
apt-get update
apt-get install vim
步骤五:创建一个salve的用户
创建数据同步slave用户,为了让备库来监听
mysql> CREATE USER 'slave'@'%' IDENTIFIED BY '123456';
Query OK, 0 rows affected (0.02 sec)
mysql> GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'slave'@'%';
Query OK, 0 rows affected (0.00 sec)
步骤六:进入备库进行,相似的配置修改 同样的步骤操作slave 修改my.cnf配置
[mysqld]
## 设置server_id,一般设置为IP,注意要唯一
server_id=101
## 复制过滤:也就是指定哪个数据库不用同步(mysql库一般不同步)
binlog-ignore-db=mysql
## 开启二进制日志功能,以备Slave作为其它Slave的Master时使用
log-bin=edu-mysql-slave1-bin
## 为每个session 分配的内存,在事务过程中用来存储二进制日志的缓存
binlog_cache_size=1M
## 主从复制的格式(mixed,statement,row,默认格式是statement)
binlog_format=mixed
## 二进制日志自动删除/过期的天数。默认值为0,表示不自动删除。
expire_logs_days=7
## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。
## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致
slave_skip_errors=1062
## relay_log配置中继日志
relay_log=edu-mysql-relay-bin
## log_slave_updates表示slave将复制事件写进自己的二进制日志
log_slave_updates=1
## 防止改变数据(除了特殊的线程)
read_only=1
结束后重启容器.
步骤七:主备建立关系(核心步骤)
核心步骤成败在此一举了 Master:
mysql> show master status;
+----------------------+----------+--------------+------------------+-------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+----------------------+----------+--------------+------------------+-------------------+
| edu-mysql-bin.000001 | 711 | | mysql | |
+----------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)
看一下File和Position的值。 !!!重点
我们刚刚查询到了IP用上了。 在从节点上执行
mysql> change master to master_host='172.17.0.4', master_user='slave', master_password='123456', master_port=3306, master_log_file='edu-mysql-bin.000001', master_log_pos=711, master_connect_retry=30;
Query OK, 0 rows affected, 10 warnings (0.04 sec)
术语解释:
- master_host: Master 的IP地址
- master_user: 在 Master 中授权的用于数据同步的用户
- master_password: 同步数据的用户的密码
- master_port: Master 的数据库的端口号
- master_log_file: 指定 Slave 从哪个日志文件开始复制数据,即上文中提到的 File 字段的值
- master_log_pos: 从哪个 Position 开始读,即上文中提到的 Position 字段的值
- master_connect_retry: 当重新建立主从连接时,如果连接失败,重试的时间间隔,单位是秒,默认是60秒。
看下操作成功的结果,等待主机发送事件
mysql> show slave status \G;
*************************** 1\. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 172.17.0.4
Master_User: slave
Master_Port: 3306
Connect_Retry: 30
Master_Log_File: edu-mysql-bin.000003
Read_Master_Log_Pos: 323
Relay_Log_File: edu-mysql-relay-bin.000002
Relay_Log_Pos: 328
Relay_Master_Log_File: edu-mysql-bin.000003
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
...
Master_Server_Id: 100
Master_UUID: eb9ceac6-ca92-11eb-8f75-0242ac110004
Master_Info_File: mysql.slave_master_info
SQL_Delay: 0
SQL_Remaining_Delay: NULL
Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
Master_Retry_Count: 86400
1 row in set, 1 warning (0.00 sec)
遇到问题
- Slave_IO_State:为空,可能是slave未执行start slave;
- 重置Matser操作
- 停止已经启动的绑定,stop slave
- 重置绑定,reset master
- 执行复制主机命令,change master to master_host ...
异常:Authentication plugin 'caching_sha2_password' reported error: Authentication requires secure connection.
Slave_IO_State: Connecting to master
Master_Host: 172.17.0.4
Master_User: slave
Master_Port: 3306
Connect_Retry: 30
Master_Log_File: edu-mysql-bin.000001
Read_Master_Log_Pos: 711
Relay_Log_File: edu-mysql-relay-bin.000002
Relay_Log_Pos: 4
Relay_Master_Log_File: edu-mysql-bin.000001
Slave_IO_Running: Connecting
Slave_SQL_Running: Yes
Last_IO_Error: error connecting to master 'slave@172.17.0.4:3306' - retry-time: 30 retries: 2 message: Authentication plugin 'caching_sha2_password' reported error: Authentication requires secure connection.
解决方式: 错误原因:密码加密方式不支持, 在主服务器执行以下命令: ALTER USER ‘slave’@’%’ IDENTIFIED WITH mysql_native_password BY '123456'; FLUSH PRIVILEGES;
四、主备数据不一致,怎么办?
BinLog类型的区别
解决数据丢失问题
首先异步的同步机制,会造成备库的数据丢失,造成主备不一致
可以考虑采用半同步复制方式,确定Binlog日志复制到备库,才告诉客户端写入成功,来确保数据不丢失。
半同步的搭建需要依赖半同步插件,来后续的文章中,我们再来说说。
利用GTID模式强化数据库的主备一致
配置:
-- 是否开启GTID复制功能
gtid_mode = on
-- 启动强制GTID的一致性,自动根据GTID进行同步数据,无需查找File和Pos点
enforce_gtid_consistency = 1
-- 5.7.6以上中默认TRUE
binlog_gtid_simple_recovery = 1
-- 默认开启,启动自动relay log恢复
relay_log_recovery = ON
-- 将master.info保存在表中
master_info_repository = TABLE
-- 将relay.info保存在表中
relay_log_info_repository = TABLE
五、延迟优化
主备服务器时间,可能会因为某个事务,在数据库执行时间过长,而出现了数据延迟,我们在进行数据操作的时候,尽量避免大事务的产生,将大事务切分为小事务去执行。
我们可以升级MySQl的版本,在大于5.6之后的版本中,采用了并行复制,并行的操作,很大程度上提高了性能,减小延迟。 再加上一个延迟监控的保险,建立心跳表,去监听主从延迟的时间。
六、进行高可用架构的设计
1.高可用设计主要分为了两种
1\. 无状态,只需要进行故障转移或者剔除,常见的有NGINX
2\. 有状态,我们需要从业务和数据维度去考虑
2.数据核对
高可用的设计,并不能保证万无一失,在最后我们需要去做一些兜底的操作,数据核对就很关键了
- 在业务上,开发需要去做数据对账,比如,销售情况和总数是否相等
- 在数据上,DBA可以做数据抽样对比,来看是否一致 [图片上传失败...(image-d49d6a-1653643170192)]
总结
最后一图总结
作者:叫我小郭_
链接:https://juejin.cn/post/7101875752349466661
来源:稀土掘金
网友评论