说明:收录25万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210865768.X (22)申请日 2022.07.21 (71)申请人 中银金融科技有限公司 地址 200120 上海市浦东 新区(上海)自由 贸易试验区银城中路20 0号4楼408室 (72)发明人 王晓炜 田清鹏  (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 郭金梅 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/2455(2019.01) G06F 16/21(2019.01) G06F 16/215(2019.01) (54)发明名称 数据校验方法及系统 (57)摘要 本发明提供一种数据校验 方法及系统, 方法 包括: 根据预置配置文件中设置的数据校验任务 和源数据库表的数据量, 对源数据库表进行分 段; 依次缓存分段后的源数据库表中每一分段对 应的第一数据和目标数据库表中的第二数据; 对 第一数据和所述第二数据进行比对, 获取数据迁 移后的数据校验 结果, 缓存中的第一数据和第二 数据在每次数据比对完成后被清空。 所述系统执 行所述方法。 本发明不同于传统的抽样数据校验 方式, 通过对待校验数据分段处理, 并在每次数 据比对完成后清空缓存内的待校验 数据, 能够在 仅占用很少内存或存储资源实现高效、 准确和全 面地对数据进行校验。 权利要求书2页 说明书9页 附图2页 CN 115422180 A 2022.12.02 CN 115422180 A 1.一种数据校验方法, 其特 征在于, 包括: 根据预置配置文件中设置的数据校验任务和源数据库表的数据量, 对所述源数据库表 进行分段, 所述数据校验任务包括每次数据比对的最大数据量, 所述最大分段数是根据所 述源数据库表的数据量和所述数据校验 任务中设置的每次数据比对的最大 数据量确定的; 依次缓存分段后的所述源数据库表中每一分段对应的第一数据和所述目标数据库表 中的第二数据, 所述第二数据是将所述第一数据迁移至所述目标 数据库表后得到的; 对所述第一数据和所述第二数据进行比对, 获取数据迁移后的数据校验结果, 所述缓 存中的所述第一数据和所述第二数据在每次数据比对完成后被清空。 2.根据权利要求1所述的数据校验方法, 其特征在于, 所述源数据库表和所述目标数据 库表是通过如下 方式获取的: 根据所述预置配置文件中的源数据库表的标识和目标数据库表的标识, 获取所述源数 据库表和所述目标 数据库表。 3.根据权利要求1所述的数据校验方法, 其特征在于, 所述根据所述预置配置文件、 源 数据库表的标识和目标数据库表的标识, 获取所述源数据库表和所述 目标数据库表之前, 所述方法, 还 包括: 根据所述预置配置文件中的源数据库的类型, 确定所述源数据库的第一连接方式; 根据所述第一连接方式, 建立与所述源数据库的连接; 根据所述预置配置文件中的目标数据库的类型, 确定所述目标数据库的第二连接方 式; 根据所述第二连接方式, 建立与所述目标 数据库的连接 。 4.根据权利要求3所述的数据校验方法, 其特征在于, 所述源数据库为关系型数据库或 非关系型 数据库, 所述目标 数据库为所述关系型 数据库或所述非关系型 数据库。 5.根据权利要求1 ‑4任一项所述的数据校验方法, 其特 征在于, 所述方法, 还 包括: 根据所述数据 校验任务中的数据校验类型, 对所述源数据库表和所述目标数据库表进 行校验。 6.根据权利要求5所述的数据校验方法, 其特征在于, 所述数据校验类型包括结构化校 验类型和内容 化校验类型。 7.一种数据校验系统, 其特征在于, 包括: 数据获取模块、 数据缓存模块以及数据校验 模块; 所述数据获取模块, 用于根据 预置配置文件中设置的数据校验任务和源数据库表的数 据量, 对所述源数据库 表进行分段, 所述数据校验任务包括每次数据比对的最大数据量, 所 述最大分段数是根据所述源数据库表的数据量和所述数据校验任务中设置的每次数据比 对的最大 数据量确定的; 所述数据缓存模块, 用于依次缓存分段后的所述源数据库表中每一分段对应的第 一数 据和所述目标数据库 表中的第二数据, 所述第二数据是将所述第一数据迁移至所述目标数 据库表后得到的; 所述数据校验模块, 用于对所述第一数据和所述第二数据进行比对, 获取数据迁移后 的数据校验结果, 所述 缓存中的所述第一数据和所述第二数据在每次数据比对完成后被清 空。权 利 要 求 书 1/2 页 2 CN 115422180 A 28.一种电子设备, 包括处理器和存储有计算机程序的存储器, 其特征在于, 所述处理器 执行所述计算机程序时实现权利要求1至 6任一项所述数据校验方法。 9.一种非暂态计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 该计算机程 序被处理器执行时实现如权利要求1至 6任一项所述数据校验方法。 10.一种计算机程序产品, 包括计算机程序, 其特征在于, 所述计算机程序被处理器执 行时实现如权利要求1至 6任一项所述数据校验方法。权 利 要 求 书 2/2 页 3 CN 115422180 A 3

.PDF文档 专利 数据校验方法及系统

文档预览
中文文档 14 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据校验方法及系统 第 1 页 专利 数据校验方法及系统 第 2 页 专利 数据校验方法及系统 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 17:17:57上传分享
友情链接
交流群
  • //public.wenku.github5.com/wodemyapi/22.png
-->
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。