美文网首页工作生活
The Road of DBA 15_NoSQL_Redis&S

The Road of DBA 15_NoSQL_Redis&S

作者: Linux_淡忘 | 来源:发表于2019-07-03 21:24 被阅读0次

    在mysql中数据的保存形式:

    name    age  job 
    zhangya 28   it
    

    在redis中数据的保存形式::

    name:zhangya
    age:28
    job:it
    id:1
    session:xxxxxxx 24小时过期
    money:48小时
    

    redis特点:

    1.支持6种数据类型,字符串,哈希,列表,集合,有序集合
    2.速度非常快,所有数据存放在内存中
    3.持久化存储,快照或日志
    

    安装完成后的可执行文件

    redis-benchmark  
    redis-check-aof  
    redis-check-rdb  
    redis-cli           客户端连接工具
    redis-sentinel      哨兵服务端
    redis-server        服务端
    

    利用官方脚本生成配置文件

    /opt/redis_cluster/redis/utils/install_server.sh
    

    安装:

    配置文件:

    cat > /opt/redis_cluster/redis_6379/conf/redis_6379.conf <<EOF
    ### 以守护进程模式启动
    daemonize yes
    ### 绑定的主机地址
    bind 10.0.0.51 127.0.0.1
    ### 监听端口
    port 6379
    ### pid文件和log文件的保存地址
    pidfile /opt/redis_cluster/redis_6379/pid/redis_6379.pid
    logfile /opt/redis_cluster/redis_6379/logs/redis_6379.log
    ### 设置数据库的数量,默认数据库为0
    databases 16
    ### 指定本地持久化文件的文件名,默认是dump.rdb
    dbfilename redis_6379.rdb
    ### 本地数据库的目录
    dir /data/redis_cluster/redis_6379
    EOF
    

    启动:

    redis-server /opt/redis_cluster/redis_6379/conf/redis_6379.conf
    关闭:
    redis-cli shutdown
    

    类型1:字符串

    适用场景:优惠券 文本  
    set 
    get
    mset
    mget
    incr key
    decr key
    incrby  key num
    decrby  key num 
    EXISTS key
    DEl key
    TTL k1 
    EXPIRE k1 10
    PERSIST k1 
    -1  永不过期    
    -2  键不存在
    

    类型2:列表

    适用场景:排行榜
    rpush
    lpush
    lrange
    rpop
    lpop
    

    类型3:哈希

    适用场景:mysql的缓存层
    HMSET   key  field value  
    HMGET   key  field 
    HGETALL key
    HMSET user:1000 username zhangya age 28 job it
    HMGET user:1000 
    HMGET us
    er:1000 username
    HMGET user:1000 username age
    HMGET user:1000 username age job
    HMGET user:1000 all
    HGETALL user:1000
    HMSET user:1000 email 526195417@qq.com
    HGETALL user:1000
    

    类型4:集合

    适用场景:推荐系统 兴趣标签 广告精确投放
    SADD set1 1 2 3 5 7 
    SMEMBERS set1
    SADD set2  3 6 8 5 7 
    SMEMBERS set2
    SADD set1 1 
    SADD set1 1 11
    SMEMBERS set1
    SMEMBERS set2
    SDIFF set1 set2
    SDIFF set2 set1
    SADD set3 1 5 12 9
    SDIFF set1 set2 set3
    SDIFF set3 set1 set2
    SINTER set1 set2
    sunion set1 set2 set3
    

    持久化

    rdb 
    优点:恢复速度快,空间小
    缺点:可能会丢失
    
    aof 
    优点:数据安全,不容易丢失
    缺点:恢复速度慢,空间大
    
    热更新
    CONFIG GET *
    

    rdb持久化方式的配置

    config gat * 获取所有配置信息
    命令行中为临时生效:
    127.0.0.1:6379> CONFIG GET save
    1) "save"
    2) ""
    127.0.0.1:6379> CONFIG SET save "60 100 300 10 600 1"
    OK
    127.0.0.1:6379> CONFIG GET save
    1) "save"
    2) "60 100 300 10 600 1"
    
    永久生效:
    写入配置文件,格式如下
    SAVE  60 100
    SAVE 300 10
    SAVE 600 1
    隐藏条件:
    1.如果同时有AOF和RDB存在,重启的时候,载入的是AOF文件
    2.shutdown   shutdown的过程是执行了save和shutdown两个操作 
      - bgsave保存,落地
      - shutdown结束
    注意:此数据支持热更新
    查看端口配置:
    127.0.0.1:6379> CONFIG set port "7000"
    (error) ERR Unsupported CONFIG parameter: port  
    注意:此数据不支持热更新
    

    架构:

    主从复制
    哨兵
    集群 
    

    mysql开启主从复制步骤

    大致流程如下:
    1.打开binlog,建立复制授权用户
    2.server id不同
    3.主库数据导出 mysqldump xtrabackup
    --master-data=2 
    --singxZxdasd-xasd=1
    4.从库数据导入
    5.配置主从参数
    6.yes 延迟
    

    主从复制

    1.从库向主库发起同步请求
    2.主库接收到从库的同步请求
    3.主库开始bgsave生成rdb文件
    4.主库生成完之后,保存到磁盘成功
    5.主库将RDB文件发送给从库
    6.从库接收主库的RDB文件
    7.从库清空自己所有的数据
    8.从库将接受的RDB文件载入到内存中
    
    危险操作:
    1.如果主库不小心同步了空的从库,会导致主库数据全部丢失
    
    谨慎的操作流程:
    1.在配置文件里配置slaveof参数,不要热更新配置
    2.主库主动执行bgsave保存rdb文件,然后备份一份rdb文件
    
    恢复操作:
    1.主库停止复制关系,注释掉aof相关参数
    2.停止主库
    3.删除原有的rdb数据,重命名备份的rdb文件
    4.重新启动主库,将rdb文件导入到内存里
    

    模拟的场景:

    1.备份了数据
    2.但是主库不小心同步了空的从库
    3.主库恢复数据
    

    所有节点都操作

    <1>杀掉redis
    pkill redis
    <2>清空数据
    rm -rf /data/redis_cluster/redis_6379/*
    <3>配置文件
    
    cat >/opt/redis_cluster/redis_6379/conf/redis_6379.conf <<EOF
    ### 以守护进程模式启动
    daemonize yes
    ### 绑定的主机地址
    bind 10.0.0.51 127.0.0.1
    ### 监听端口
    port 6379
    ### pid文件和log文件的保存地址
    pidfile /opt/redis_cluster/redis_6379/pid/redis_6379.pid
    logfile /opt/redis_cluster/redis_6379/logs/redis_6379.log
    ### 设置数据库的数量,默认数据库为0
    databases 16
    #### 指定本地持久化文件的文件名,默认是dump.rdb
    dbfilename redis_6379.rdb
    #### 本地数据库的目录
    dir /data/redis_cluster/redis_6379
    save 60 100 
    save 300 10 
    save 600 1
    EOF
    
    
    <4>所有节点启动服务
    redis-server /opt/redis_cluster/redis_6379/conf/redis_6379.conf
    

    db01主库上执行

    for i in {0..2000};do redis-cli set k_${i} v_${i}; echo "${i} is ok";done
    
    <1>主库生成rdb数据
    进入到redis里
    redis-cli 
    bgsave
    
    <2>备份数据
    cd /data/redis_cluster/redis_6379/
    cp redis_6379.rdb redis_6379.rdb.bak
    
    <3>模拟操作失误,同步了从库
    注意:不要复制提示符
    [root@db01 ~]# redis-cli 
    127.0.0.1:6379> SLAVEOF 10.0.0.52 6379
    OK
    
    <4>模拟恢复
    1.停掉db01的redis服务
    redis-cli shutdown
    2.检查redis是否真的停止了
    ps -ef|grep redis
    3.注释掉配置文件里的slaveof
    4.恢复备份的数据
    cd /data/redis_cluster/redis_6379
    cp redis_6379.rdb.bak redis_6379.rdb
    5.启动服务
    redis-server /opt/redis_cluster/redis_6379/conf/redis_6379.conf 
    6.检查数据是否恢复了
    redis-cli
    keys *
    

    模拟主库故障

    db02上操作:
    redis-cli
    SLAVEOF 10.0.0.51 6379
    
    ##查看db02日志
    [root@db02 ~]# tail -f /opt/redis_cluster/redis_6379/logs/redis_6379.log 
    
    ##关闭db01
    redis-cli shutdown
    
    ##从库如何接管
    从库db02slaveof no one取消复制关系
    redis-cli -h db02 -p 6379 slaveof no one
    
    ##db02备份从库数据
    cd /data/redis_cluster/redis_6379
    cp redis_6379.rdb redis_6379.rdb.bak
    
    ##db01旧主库修复上线
    redis-server /opt/redis_cluster/redis_6379/conf/redis_6379.conf
    SLAVEOF 10.0.0.52 6379 
    keys *
    
    ##负载均衡关闭后端负载,防止数据写入
    
    ##修复后的db01从库重新升级为主库
    SLAVEOF no one
    
    ##代码修改为主库db01的IP,负载均衡重新挂载后端服务
    
    ##db02重新生成主从关系
    SLAVEOF 10.0.0.51 6379 
    
    ##确认数据同步正常
    

    哨兵

    <1>安装步骤:
    mkdir -p /data/redis_cluster/redis_26379
    mkdir -p /opt/redis_cluster/redis_26379/{conf,pid,logs}
    cat > /opt/redis_cluster/redis_26379/conf/redis_26379.conf<<EOF
    bind $(hostname -i)
    port 26379
    daemonize yes
    logfile /opt/redis_cluster/redis_26379/logs/redis_26379.log
    dir /data/redis_cluster/redis_26379
    sentinel monitor mymaster 10.0.0.51 6379 2
    sentinel down-after-milliseconds mymaster 3000
    sentinel parallel-syncs mymaster 1
    sentinel failover-timeout mymaster 18000
    EOF
    

    主从关系:

    从库执行:
    SLAVEOF 10.0.0.51 6379 
    
    启动哨兵:
    redis-sentinel /opt/redis_cluster/redis_26379/conf/redis_26379.conf 
    
    检查服务
    ps -ef|grep redis
    
    查看哨兵配置文件
    cat /opt/redis_cluster/redis_26379/conf/redis_26379.conf
    
    注意:
    不要自己去改动哨兵的配置文件
    

    Sentinel原始配置文件

    [root@db01 ~]# cat /opt/redis_cluster/redis_26379/conf/redis_26379.conf 
    bind 10.0.0.51
    port 26379
    daemonize yes
    logfile /opt/redis_cluster/redis_26379/logs/redis_26379.log
    dir /data/redis_cluster/redis_26379
    sentinel monitor mymaster 10.0.0.51 6379 2
    sentinel down-after-milliseconds mymaster 3000
    sentinel parallel-syncs mymaster 1
    sentinel failover-timeout mymaster 18000
    

    当哨兵全部节点开启后配置文件的变化

    [root@db01 ~]# cat /opt/redis_cluster/redis_26379/conf/redis_26379.conf 
    bind 10.0.0.51
    port 26379
    daemonize yes
    logfile "/opt/redis_cluster/redis_26379/logs/redis_26379.log"
    dir "/data/redis_cluster/redis_26379"
    sentinel myid d38f0c394afaf5fd462de16ff56be9f72f2f91d5
    sentinel monitor mymaster 10.0.0.51 6379 2
    sentinel down-after-milliseconds mymaster 3000
    sentinel failover-timeout mymaster 18000
    # Generated by CONFIG REWRITE
    sentinel config-epoch mymaster 0
    sentinel leader-epoch mymaster 0
    sentinel known-slave mymaster 10.0.0.52 6379
    sentinel known-slave mymaster 10.0.0.53 6379
    sentinel known-sentinel mymaster 10.0.0.53 26379 eb103c3bc5bc99997091273d95827006a0f9af9e
    sentinel known-sentinel mymaster 10.0.0.52 26379 f1c1b37cfe230d656345a26f26e97e96b706fb90
    sentinel current-epoch 0
    

    0.杀掉哨兵
    1.主从复制先做好
    db02和db03复制db01

    哨兵故障恢复:

    1.先启动db01
    redis-server /opt/redis_cluster/redis_6379/conf/redis_6379.conf
    
    2.启动哨兵
    redis-sentinel /opt/redis_cluster/redis_26379/conf/redis_26379.conf 
    
    3.设置权重
    db02和db03调大权重
    CONFIG SET slave-priority 0
    
    4.重新发起选举
    在db01上的26379节点执行
    redis-cli -h 10.0.0.51 -p 26379 Sentinel failover mymaster
    
    5.观察主从复制是否正常
    redis-cli 
    CONFIG GET slaveof
    
    6.db01恢复权重
    CONFIG SET slave-priority 100
    
    
    问题总结:
    1.比较天真的复制粘贴,没有修改成自己IP地址
    2.主从没做好,哨兵一定不好使
    3.先启动单节点的redis,再启动哨兵
    

    回顾总结:

    1.redis五种数据结构和应用场景

    - 字符串  优惠券过期 帖子浏览数计数 
    - 哈希    mysql缓存,对应表关系 
    - 集合    兴趣爱好标签  共同好友 共同爱好 精确广告投放
    - 列表    排行榜 
    

    2.持久化

             优点              缺点
    rdb  恢复快,占用空间小   可能会丢数据
    aof  安全性高            恢复速度慢,占用空间大
    

    3.安全性

    - 绑定内网IP
    - 修改默认端口
    - 增加密码认证
    - 定时备份RDB文件
    

    4.主从复制

    - 防火墙放开端口
    - slaveof MASTER_IP PORT
    - slaveof no one 
    - config get slaveof 
    - 同步过程看日志
    - 谨慎操作,先备份,不要热更新slaveof,不要同步反了
    

    5.哨兵

    - 防火墙放开端口
    - 解决主从复制需要人工介入的问题
    - 先做好主从架构
    - 在配置哨兵并启动
    - 哨兵有自己专用的命令
    - 哨兵也是一个redis节点
    - 哨兵的配置文件不要手动去修改
    - 修复上线步骤:先调低其他节点的权重为0,执行重新选举,修改会默认的权重
    

    相关文章

      网友评论

        本文标题:The Road of DBA 15_NoSQL_Redis&S

        本文链接:https://www.haomeiwen.com/subject/bkhhhctx.html