说明:收录25万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
联系我们
问题反馈
文件分类
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210928370.6 (22)申请日 2022.08.03 (71)申请人 中银金融科技有限公司 地址 200120 上海市浦东 新区(上海)自由 贸易试验区银城中路20 0号4楼408室 (72)发明人 姜楠 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 聂俊伟 (51)Int.Cl. G06F 16/22(2019.01) G06F 16/2455(2019.01) G06F 16/242(2019.01) (54)发明名称 高并发数据入库方法、 装置、 电子设备及存 储介质 (57)摘要 本发明提供一种高并发数据入库方法、 装 置、 电子设备及存储接孩子, 其中方法包括: 接收 报文数据并确定接收时间; 对报文数据进行解 析, 并应用预设格式对解析后得到的数据进行格 式化, 得到格式化数据; 将格式化数据异步逐行 写入指定文件夹中与接收时间所处时间段对应 的文本文件中; 时间段是基于预设时间间隔确定 的; 基于导入时间, 确定导入时间之前的未导入 时间段; 并将未导入时间段对应的文本文件中的 格式化数据导入到数据库中, 实现了数据报文请 求和数据 报文入库的操作分离, 以及当前时间段 报文数据写入文件和之前时间段文本文件导入 数据库的操作分离, 降低了数据库产生瓶颈的几 率, 从而在收集报文数据的同时提高了用户的体 验度。 权利要求书2页 说明书10页 附图2页 CN 115408383 A 2022.11.29 CN 115408383 A 1.一种高并发数据入库方法, 其特 征在于, 包括: 接收报文数据并确定 接收时间; 对所述报文数据进行解析, 并应用预设格式对解析后得到的数据进行格式化, 得到格 式化数据; 将所述格式化数据异步逐行写入指定文件夹中与所述接收时间所处时间段对应的文 本文件中; 所述时间段 是基于预设时间 间隔确定的; 基于导入时间, 确定所述导入时间之前的未导入时间段; 并将所述未导入时间段对应 的文本文件中的格式化数据导入到数据库中。 2.根据权利要求1所述的高并发数据入库 方法, 其特征在于, 所述将所述格式化数据异 步逐行写入所述接收时间所处时间段对应的文本文件中, 包括: 基于所述预设时间 间隔和所述接收时间, 确定所述接收时间所处时间段; 若所述接收时间所处时间段不存在对应的文本文件, 则在所述指定文件夹 中创建所述 接收时间所处时间段对应的文本文件; 将所述格式化数据异步逐 行写入所述接收时间所处时间段对应的文本文件中。 3.根据权利要求2所述的高并发数据入库 方法, 其特征在于, 所述将所述格式化数据异 步逐行写入所述接收时间所处时间段对应的文本文件中, 包括: 将所述格式化数据写入缓存队列中, 在所述缓存队列中格式化数据的数量达到预设阈 值或者所述接收时间所 处时间段结束的情况下, 异 步将所述缓存队列中的格式化数据逐行 写入所述接收时间所处时间对应的文本文件中, 并清空所述缓存队列。 4.根据权利要求1所述的高并发数据入库方法, 其特征在于, 所述基于导入时间, 确定 所述导入时间之前的未导入时间段; 并将所述未导入时间段对应的文本文件中的格式化数 据导入到数据库中, 包括: 确定所述 导入时间; 在系统时间与 所述导入时间误差在预设范围内时, 则 基于最后导入时间所处时间段的 起始时间和所述导入时间所处时间段的起始 时间段, 确定所述未导入时间段, 并将所述未 导入时间段对应的文本文件中的格式化数据批量 导入到所述数据库中; 在所述未导入时间段对应的文本文件导入数据完成后, 将所述最后 导入时间更新为所 述导入时间。 5.根据权利要求4所述的高并发数据入库 方法, 其特征在于, 所述将所述未导入时间段 对应的文本文件中的格式化数据批量 导入到所述数据库中, 包括: 逐行读取所述未导入时间段对应的文本文件中的格 式化数据并写入预编译的SQL语句 中, 得到预编译SQ L指令; 并将所述预编译SQ L指令加入到预编译SQ L指令集合中; 在所述预编译SQL指令集合中的预编译SQL指令达到预设数量或者所述未导入时间段 对应的文本文件读取完毕, 则执行所述预编译SQL指令集合并清空所述预编译SQL指令集 合, 以将所述未导入时间段对应的文本文件中的格式化数据批量 导入到所述数据库中。 6.根据权利要求5所述的高并发数据入库 方法, 其特征在于, 所述逐行读取所述未导入 时间段对应的文本文件中的格式化数据并写入 预编译的SQL语句中, 得到预编译SQL指 令集 合, 包括: 确定当前读取 行数;权 利 要 求 书 1/2 页 2 CN 115408383 A 2读取所述未导入时间段对应的文本文件中所述当前读取行数对应的格式化数据, 并对 所述当前读取行数对应的格式化数据进行解析, 若解析后的数据中为报文异常的数据, 则 将所述当前读取 行数对应的格式化数据写入日志中; 否则, 将所述解析后的数据写入所述预编译的SQL语句中, 得到预编译SQL指令, 并将所 述预编译SQ L指令加入到所述预编译SQ L指令集合中; 将下一读取 行数作为当前读取 行数。 7.一种高并发数据入库装置, 其特 征在于, 包括: 接收模块, 用于 接收报文数据并确定 接收时间; 格式化模块, 用于对所述报文数据进行解析, 并应用预设格式对解析后得到的数据进 行格式化, 得到格式化数据; 固定数据模块, 用于将所述格式化数据异步逐行写入指定文件夹 中与所述接收时间所 处时间段对应的文本文件中; 所述时间段 是基于预设时间 间隔确定的; 导入模块, 用于基于导入时间, 确定所述导入时间之前的未导入时间段; 并将所述未导 入时间段对应的文本文件中的格式化数据导入到数据库中。 8.一种电子设备, 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序, 其特征在于, 所述处理器执行所述程序时实现如权利要求1至6任一项所 述高并发数据入库方法。 9.一种非暂态计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机 程序被处 理器执行时实现如权利要求1至 6任一项所述高并发数据入库方法。 10.一种计算机程序产品, 包括计算机程序, 其特征在于, 所述计算机程序被处理器执 行时实现如权利要求1至 6任一项所述高并发数据入库方法。权 利 要 求 书 2/2 页 3 CN 115408383 A 3
专利 高并发数据入库方法、装置、电子设备及存储介质
文档预览
中文文档
15 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 人生无常 于
2024-03-18 17:18:49
上传分享
举报
下载
原文档
(499.0 KB)
分享
友情链接
YD-T 3763.6-2021 研发运营一体化(DevOps)能力成熟度模型 第6部分:安全及风险管理.pdf
YD-T 2703-2014 电信网和互联网安全防护基线配置要求及检测要求-web应用系统.pdf
GB-T 38634.4-2020 系统与软件工程 软件测试 第4部分:测试技术.pdf
T-NIFA 25—2023 金融分布式账本技术资金管理应用技术要求.pdf
DB11-T 1190.1-2015 古建筑结构安全性鉴定技术规范 第1部分:木结构 北京市.pdf
DB41-T 2282-2022 独山玉鉴定与原料分级 河南省.pdf
GB-T 32672-2016 电力需求响应系统通用技术规范.pdf
奇安信 中国政企机构数据安全风险研究报告.pdf
GB-T 30903-2014 无机化工产品 杂质元素的测定 电感耦合等离子体质谱法(ICP-MS).pdf
专利 基于人工智能的人脸识别方法、装置、设备及存储介质.PDF
艾瑞咨询2024年AIGC教育行业报告55页.pdf
GB-T 26463-2011 羰基合成脂肪醇.pdf
GB-T 3765-2008 卡套式管接头技术条件.pdf
GB-T 38548.1-2020 内容资源数字化加工 第1部分:术语.pdf
GB-T 43079.1-2023 钢制管法兰、垫片及紧固件选用规定 第1部分:PN系列.pdf
GB-T 23889-2009 家用空气源热泵辅助型太阳能热水系统技术条件.pdf
GB-T 42260-2022 磷酸铁锂电化学性能测试 循环寿命测试方法.pdf
GB/Z 24294.3-2017 信息安全技术 基于互联网电子政务信息安全实施指南 第3部分:身份认证与授权管理.pdf
NY-T 1875-2020 联合收获机报废技术条件.pdf
GB-T 40711.2-2021 乘用车循环外技术-装置节能效果评价方法 第2部分:怠速起停系统.pdf
交流群
-->
1
/
3
15
评价文档
赞助2元 点击下载(499.0 KB)
回到顶部
×
微信扫码支付
2
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。