redis 校验迁移后的数据
2021/7/15 19:06:12
本文主要是介绍redis 校验迁移后的数据,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
在Redis迁移完成后进行数据校验可以检查数据的一致性。
前提条件
- 已完成Redis迁移。 说明 云数据库Redis版相关迁移方法请参见迁移方案概览。
- 迁移源端和目的端Redis实例需为主从版、单节点版、开源集群版以及部分云上带proxy的集群版(阿里云、腾讯云)。
- 已创建用于运行redis-full-check的ECS实例,且ECS实例的系统为Linux,创建方法请参见创建ECS实例。
- ECS实例可以访问迁移源端和目的端Redis实例。
说明
- 如果ECS实例与Redis实例在同一可用区的VPC中,可以在Redis白名单中添加ECS内网IP,添加白名单请参见设置IP白名单。
- 如果ECS实例与Redis实例不在同一可用区的VPC中,可以通过外网地址访问,详情请参见外网连接。
redis-full-check简介
如果Redis迁移的过程出现异常,源端与目的端Redis的数据将会不一致。使用redis-full-check进行校验能够找出异常数据,为数据对齐提供可靠依据。
redis-full-check是阿里云自研的Redis数据校验工具,能够提取源端和目的端的数据进行多轮差异化比较,并将比较结果记录在一个SQLite3数据库中,从而达到全量数据校验的目的。
说明 如需了解更多redis-full-check相关信息,请参见redis-full-check Github主页。操作步骤
- 登录可以连接云数据库Redis版实例(目的端Redis)的ECS,相关操作请参见连接ECS实例。
- 在ECS中下载redis-full-check。 说明 建议您下载最新发布的版本。
- 解压redis-full-check.tar.gz。
tar -xvf redis-full-check.tar.gz
- 执行如下命令进行数据校验:
./redis-full-check -s "<Redis集群地址1连接地址:Redis集群地址1端口号;Redis集群地址2连接地址:Redis集群地址2端口号;Redis集群地址3连接地址:Redis集群地址3端口号>" -p <Redis集群密码> -t <Redis连接地址:Redis端口号> -a <Redis密码> --comparemode=1 --comparetimes=1 --qps=10 --batchcount=100 --sourcedbtype=1 --targetdbfilterlist=0
常用选项说明请见下表,如需了解更多选项及说明,请参见RedisFullCheck 配置说明。
说明 执行完成后命令行输出校对结论,下方示例表示有2个不一致的key。如果此处为0,则两端数据一致。表 1. redis-full-check常用选项说明 选项 说明 示例值 -s 源端Redis的连接地址和端口。 说明 - 如果源Redis为集群版,每个集群地址间需要以半角分号(;)分割不同的连接地址。
- 集群地址前后需要添加半角双引号(")。
- 该选项必填。
r-bp1xxxxxxxxxxxxx.redis.rds.aliyuncs.com:6379
"10.xx.xx.1:7000;10.xx.xx.1:7001;10.xx.xx.2:7002;10.xx.xx.2:7003"
-p 源端Redis的密码。 SourcePwd233
-t 目的端Redis的连接地址和端口。 说明 - 如果目的Redis为集群版,每个集群地址间需要以半角分号(;)分割不同的连接地址。
- 集群地址前后需要添加半角双引号(")。
- 该选项必填。
r-bp1xxxxxxxxxxxxx.redis.rds.aliyuncs.com:6379
"10.xx.xx.1:7000;10.xx.xx.1:7001;10.xx.xx.2:7002;10.xx.xx.2:7003"
-a 目的端Redis的密码。 TargetPwd233
--sourcedbtype 源库的类别: - 0:单节点版、主从版
- 1:集群版
- 2:阿里云/腾讯云
--sourcedbtype=1
--sourcedbfilterlist 源端Redis指定需要校验的DB。 说明 - 开源集群版Redis无需填写该选项。
- 非开源集群版Redis不指定该选项表示校验所有DB。
- 多个DB之间使用半角分号(;)连接。
--sourcedbfilterlist=0;1;2
--targetdbtype 目的库的类别: - 0:单节点版、主从版
- 1:集群版
- 2:阿里云/腾讯云
--targetdbtype=0
--targetdbfilterlist 目的端Redis指定需要校验的DB。 说明 - 开源集群版Redis无需填写该选项。
- 非开源集群版Redis不指定该选项表示校验所有DB。
- 多个DB之间使用半角分号(;)连接。
--targetdbfilterlist=0;1;2
-d 异常数据列表保存的文件名称,默认为result.db。 xxx.db
--comparetimes 校验次数。 - 该选项不填则默认为3次。
- 最小值为1。
- 无最大值,建议不超过5次。
--comparetimes=1 -m 校验模式。 - 1:全量校验
- 2:仅校验value的长度
- 3:仅校验key是否存在
- 4:全量对比的情况下,忽略大key的比较
1 --qps 限速阈值。 说明 - 最小值为1。
- 最大值取决于服务器性能。
--qps=10 --filterlist 需要比较的key列表,以竖线(|)分割。 说明 - abc*:表示匹配所有abc开头的key。
- abc:表示仅匹配abc这个key。
--filterlist=abc*|efg|m* all finish successfully, totally 2 keys or fields conflict
- 查看保存异常key的SQLite3数据库。
- 执行
sqlite3 result.db.3
。 说明 异常数据列表默认保存在result.db.3中。 - 执行
SELECT * FROM key;
。图 1. 查看异常数据列表 说明 SQL3数据库中保存了表key和表field:- 表key中保存的是不一致的key;
- 表field中保存的是hash、set、zset、list类型数据中不一致数据的详情。
- 执行
这篇关于redis 校验迁移后的数据的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-10-22Redis入门教程:轻松掌握数据存储与操作
- 2024-10-22Redis缓存入门教程:快速掌握Redis缓存基础知识
- 2024-10-22Redis入门指南:轻松掌握Redis基础操作
- 2024-10-22Redis Quicklist 竟让内存占用狂降50%?
- 2024-10-17Redis学习:从入门到初级应用教程
- 2024-10-12Redis入门:新手必读教程
- 2024-09-26阿里云Redis项目实战:新手入门教程
- 2024-09-26阿里云Redis资料入门教程
- 2024-09-25阿里云Redis入门教程:快速掌握Redis的基本操作
- 2024-09-25阿里云Redis学习:新手入门教程