美文网首页
redis Redis分布式集群搭建

redis Redis分布式集群搭建

作者: dylan丶QAQ | 来源:发表于2020-09-18 15:32 被阅读0次

    起因:随着项目的进一步推广,数据量的增大,直接访问mysql数据库获取数据所使用的时间越来越长,为解决当前主要矛盾,决定引入redis非关系型数据库作为缓存层,使得数据并不能直接命中数据库,减少访问数据库带来的压力,从而加快运行速度。


    1. Springboot整合集群访问

    spring:
      redis:
        password: icoding
        cluster:
          nodes: 127.0.0.1:8001,127.0.0.1:8002,127.0.0.1:8003,127.0.0.1:8004,127.0.0.1:8005,127.0.0.1:8006,127.0.0.1:8007,127.0.0.1:8008
    

    2. Redis分布式集群搭建

    提问:

    我们前面讲主从,讲哨兵体现出Redis分布式缓存的特性没?

    背景:

    主从复制(哨兵),虽然主从能提升读的并发,但是单个master容量是有限的,内存数据达到一定程度就会有瓶颈,无论多少套主从,master的容量都是最终的瓶颈

    如果解决:

    需要支持内存的水平扩展了,这个时候就需要使用集群了

    集群解决的问题

    • 高可以
    • 高并发
    • 访问/存储水平扩展

    2.1. Redis集群配置

    # redis.conf
    # 单机配置
    daemonize yes
    dir /usr/local/cluster/8001
    bind 0.0.0.0
    requirepass icoding
    masterauth icoding #集群创建会自动搭建主从关系,所以不要手工配置replicaof
    port 8001
    pidfile /var/run/redis_8001.pid
    # 开启集群配置
    cluster-enabled yes
    # 集群每个节点都需要的配置文件
    cluster-config-file nodes-8001.conf
    # master超时时间,超过后主备切换
    cluster-node-timeout 3000
    # 开启AOF
    appendonly yes
    # 批量修改文件端口
    .,$ s/8001/8006/g
    # 整个批处理文件
    chmod 777 cluster.sh
    redis-server /usr/local/redis-cluster/8001/redis.conf
    redis-server /usr/local/redis-cluster/8002/redis.conf
    redis-server /usr/local/redis-cluster/8003/redis.conf
    redis-server /usr/local/redis-cluster/8004/redis.conf
    redis-server /usr/local/redis-cluster/8005/redis.conf
    redis-server /usr/local/redis-cluster/8006/redis.conf
    

    搭建集群

    # Redis 3.x开始有集群,redis-trib.rb
    # Redis 5.x使用redis-cli就可以了
    # 集群创建的命令
    # --cluster-replicas 1 每个master有几个slave
    redis-cli -a icoding --cluster create 127.0.0.1:8001 127.0.0.1:8002 127.0.0.1:8003 127.0.0.1:8004 127.0.0.1:8005 127.0.0.1:8006 --cluster-replicas 1
    # 查看集群信息
    redis-cli -a icoding --cluster check 127.0.0.1:8001
    # 查看集群命令帮助
    redis-cli -a icoding --cluster help
    
    image-20200209233410110.png

    问题:

    set key value 所有节点都写的1,写一个节点的2

    登录8001节点 set key value 是否一定写入8001,一定1,不一定2

    (error) MOVED 12539 127.0.0.1:8003 
    # 报这个错误的原因是我们以单机方式登录,而不是集群方式
    # 单机登录节点
    redis-cli -a icoding -p 8001
    # 集群登录节点
    redis-cli -c -a icoding -p 8001
    set key value
    get key
    127.0.0.1:8001> cluster info
    127.0.0.1:8001> cluster nodes
    keys * # 在集群状态下只能拿到当前节点的所有数据
    #-> Redirected to slot [12539] located at 127.0.0.1:8003
    

    2.2. Slot槽点

    Slot就是支持分布式存储的核心

    Redis集群创建后会创建16384个slot(slots不能改就是16384个),并且根据集群的master数据平均分配给master

    • 如果有3个master,16384/3=(大约)5460个
    • 当你往redis集群中插入数据时,数据只存一份,不一定在你登录节点上,redis集群会使用crc16(key)mod16384来计算这个key应该放在那个hash slot中
    • 获取数据的时候也会根据key来取模,就知道在哪个slot上了,也就能redirect了
    • 一个slot其实就是一个文件夹,就能存很多key

    集群如何实现分布式

    • 每个master只保存mod后的slot数据
    • 如果要扩展,再加入一个,只需要给这个新节点再分一些slot就行了,但注意无论多少个node,slots总数不变都是16384
    • 8g(2460),8g(2460),8g(2460),这个时候加入一个16g(4000) 16g(5000):total-16384
    • slot移动,slot里的数据也跟着移动
    • 一个master节点是否内存装满,是slots数量多少还是slot里存放的文件多少导致的?

    集群的搭建建议

    • 建议是奇数个,至少3个master几点
    • 主从切换:节点间会相互通信,一半以上的节点ping不通某个节点,就认为这个master挂了,这个时候从节点顶上
    • 什么时候整个集群不可用
      • 如果集群中任意master挂掉,且没有slave顶上,集群就进入fail状态
      • 如果超半数以上的master挂掉,无论是否有slave,集群都进入fail状态

    2.3. 新增节点Master/Slave

    #add-node       new_host:new_port existing_host:existing_port
    #                 --cluster-slave
    #                 --cluster-master-id <arg>
    # 新增主节点
    redis-cli -a icoding --cluster add-node 127.0.0.1:8007 127.0.0.1:8001
    # 加入后可以通过cluster nodes来查看
    127.0.0.1:8001> cluster nodes
    # 给8007分配slot
    # --cluster-from 从哪个节点来分配slot,这里只能写node_id,就是cluster nodes获得id,from可以是一个节点也可以是多个节点
    # --cluster-to 到8007节点,同样是node_id
    # --cluster-slots 从from节点一共分多少slot,并且from中的node是平均分这个总数的 4096/3
    # --cluster-yes 不用提示直接执行
    redis-cli -a icoding --cluster reshard 127.0.0.1:8001 --cluster-from 4248563f9000101bff9ff1beb27a7d595c99fa8e,21ccab2ac6b6724b3469f9c0662119a4ce3a06fc,598304ac00aa2daa61773b1fc32d26f99e6f8463 --cluster-to 75b831369eedd8b5fe0aee4b2819f573ae0592a2 --cluster-slots 4096 --cluster-yes
    # 给8007增加8008的slave节点
    redis-cli -a icoding --cluster add-node 127.0.0.1:8008 127.0.0.1:8001 --cluster-slave --cluster-master-id 75b831369eedd8b5fe0aee4b2819f573ae0592a2
    

    2.4. 节点下线

    场景:5组Redis,10个节点,要改成3组,6个节点

    # 下线节点,现有考虑把slots分给其他节点,这就是在做数据迁移
    # 我这一次分配,也可以分批移动给多个节点,我要下架8001/8006
    redis-cli -a icoding --cluster reshard 127.0.0.1:8002 --cluster-from 4248563f9000101bff9ff1beb27a7d595c99fa8e --cluster-to 21ccab2ac6b6724b3469f9c0662119a4ce3a06fc --cluster-slots 4096 --cluster-yes
    # 检查一下8001的slot是否全部转移走
    127.0.0.1:8002> cluster nodes
    # 删除8001节点,这里的节点建议写成删除节点
    redis-cli -a icoding --cluster del-node 127.0.0.1:8001 4248563f9000101bff9ff1beb27a7d595c99fa8e
    # 删除8006节点,这里的节点建议写成删除节点
    redis-cli -a icoding --cluster del-node 127.0.0.1:8006 58d18e90e4ed86de44a6c14455e2f24825924e93
    

    线上保险操作

    1、先把集群中的每个节点的RDB,AOF文件备份

    2、复制一套同设备和参数的集群,把数据恢复到里面,演练一下(如果可以把演练的结果转正更好)

    3、演练没有问题,这个时候进行操作


    不要以为每天把功能完成了就行了,这种思想是要不得的,互勉~!

    相关文章

      网友评论

          本文标题:redis Redis分布式集群搭建

          本文链接:https://www.haomeiwen.com/subject/myacyktx.html