美文网首页
mysql同步数据到redis-全量同步

mysql同步数据到redis-全量同步

作者: 捞月亮的阿汤哥 | 来源:发表于2021-04-25 17:10 被阅读0次

    迁移前的数据

    建表语句

    create table company(
        id bigint auto_increment primary key ,
        name varchar(32),
        sdate timestamp,
        email varchar(64),
        domain varchar(128),
        city varchar(64)
    )engine =InnoDB
    

    插入示例语句

    insert into company(name, sdate, email, domain, city)
    values ('tangzihao', '1992-11-29', '1003005062@qq.com', 'www.baidu.com', 'hangzhou'),
           ('zhangsan', '1994-7-20', 'zhangsan@qq.com', 'www.qq.com', 'shanghai'),
           ('lisi', '2000-10-25', 'lisi@qq.com', 'www.sina.com', 'guangzhou');
    

    迁移步骤

    分析源端数据结构

    分析源端数据结构,保存到名为mysql_to_redis.sql的文件中。内容如下

    换行符linux中使用的是\r\n
    如果是windows的话是\n

    SELECT CONCAT(
      "*12\r\n", #这里的12是下方字段的数量,由MySQL表中的数据结构决定,数一下有几个LENGTH就行
      '$', LENGTH('HMSET'), '\r\n', #HMSET是在Redis中写入数据时使用的命令
      'HMSET', '\r\n',
      '$', LENGTH(id), '\r\n', #id是HMSET字段后的第一个字段,迁移后会成为Redis Hash中的key
      id, '\r\n',
      '$', LENGTH('name'), '\r\n', #'name'将以字符串形式传入hash中,作为其中一个field。下面的'sdate'等与它相同
      'name', '\r\n',
      '$', LENGTH(name), '\r\n', #name是一个变量,代表了MySQL表中公司的名称,迁移后会成为上一参数'name'生成的field所对应的value。下面的sdate等与它相同
      name, '\r\n',
      '$', LENGTH('sdate'), '\r\n',
      'sdate', '\r\n',
      '$', LENGTH(sdate), '\r\n',
      sdate, '\r\n',
      '$', LENGTH('email'), '\r\n',
      'email', '\r\n',
      '$', LENGTH(email), '\r\n',
      email, '\r\n',
      '$', LENGTH('domain'), '\r\n',
      'domain', '\r\n',
      '$', LENGTH(domain), '\r\n',
      domain, '\r\n',
      '$', LENGTH('city'), '\r\n',
      'city', '\r\n',
      '$', LENGTH(city), '\r\n',
      city, '\r\n'
    )
    FROM company AS c
    

    使用如下命令迁移

    mysql -h 127.0.0.1 -P 3306 -u root -D test -p --skip-column-names --raw < mysql_to_redis.sql | redis-cli -h 127.0.0.1 -p 6379 --pipe
    

    选项说明

    选项 说明 示例值
    -h MySQL数据库的连接地址。说明 此处是指命令中的第一个-h。 127.0.0.1
    -P MySQL数据库的服务端口。 3306
    -u MySQL数据库的用户名。 root
    -D 需要迁移的MySQL表所在的库。 test
    -p MySQL数据库的连接密码。 123456
    --skip-column-names 不在查询结果中写入列名。 无需设置值。
    --raw 输出列的值时不进行转义。 无需设置值。
    -h Redis的连接地址。这里指redis-cli之后的-h 127.0.0.1
    -p Redis的连接端口。这里指redis-cli之后的-p 6379
    --pipe 使用Redis的Pipeline功能进行传输。 无需设置值。
    -a Redis的连接密码。说明 如无密码或不需要密码则无需设置该选项 123456

    迁移命令输出

    mysql -h 127.0.0.1 -P 3306 -u root -D test -p --skip-column-names --raw < mysql_to_redis.sql | redis-cli -h 127.0.0.1 --pipe -p 6379
    Enter password:
    All data transferred. Waiting for the last reply...
    Last reply received from server.
    errors: 0, replies: 3
    

    迁移后查询

    127.0.0.1:6379> keys *
    1) "3"
    2) "2"
    3) "1"
    127.0.0.1:6379> HGETALL 1
     1) "name"
     2) "tangzihao"
     3) "sdate"
     4) "1992-11-29 00:00:00"
     5) "email"
     6) "1003005062@qq.com"
     7) "domain"
     8) "www.baidu.com"
     9) "city"
    10) "hangzhou"
    

    从上面看到,mysql中行的主键变成了redis中hash的key,一行中的每列变成了redis中的值。

    参考文档

    https://help.aliyun.com/document_detail/124140.html?spm=a2c4g.11186623.6.883.7f1141f7LnYtjy

    https://www.cnblogs.com/tommy-huang/p/4703514.html

    相关文章

      网友评论

          本文标题:mysql同步数据到redis-全量同步

          本文链接:https://www.haomeiwen.com/subject/pxodrltx.html