说明:收录25万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
联系我们
问题反馈
文件分类
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210969596.0 (22)申请日 2022.08.12 (71)申请人 深圳市必凡娱乐科技有限公司 地址 518057 广东省深圳市南 山区粤海街 道麻岭社区深南大道9966号威盛 科技 大厦1205 (72)发明人 罗国帝 (74)专利代理 机构 深圳锴权知识产权代理事务 所(普通合伙) 44825 专利代理师 张巍 (51)Int.Cl. G06F 16/2455(2019.01) G06F 9/54(2006.01) H04L 67/06(2022.01) (54)发明名称 一种数据处 理方法及系统 (57)摘要 本申请涉及一种数据处理方法及系统, 涉及 数据处理的技术领域, 其方法包括在接收到数据 时, 根据所述数据所属的业务场景类型将所述数 据发送至所述业务场景类型中的Redi s列队进行 攒批; 在所述Redis列队攒批结束时, 取出Redis 列队中的所有数据并将Redis列队当前攒批的所 有数据清空使得所述Redi s列队能够重新用于攒 批数据; 基于取出的所有数据生成JSON文件; 将 所述JSON文件上传至云服务平台并获取所述云 服务平台反馈的上传结果, 在所述JSON文件上传 成功时获取所述JSON文件所对应的网络地址; 以 及, 将所述网络地址加入消息队列并发送至需要 消费的客户端进行监听并消费。 本申请具有更好 地实现数据的流批处 理的效果。 权利要求书2页 说明书6页 附图2页 CN 115048418 A 2022.09.13 CN 115048418 A 1.一种数据处 理方法, 其特 征在于, 包括: 在接收到数据时, 根据 所述数据所属的业务场景类型将所述数据发送至所述业务场景 类型中的Redis列队进行攒 批; 在所述Redis列队攒批结束时, 取出Redis列队中的所有数据并将Redis列队当前攒批 的所有数据清空使得 所述Redis列队能够重新用于 攒批数据; 基于取出的所有数据生成JSON文件; 将所述JSON文件上传至云服务平台并获取所述云服务平台反馈的上传结果, 在所述 JSON文件上传成功时获取 所述JSON文件所对应的网络地址; 以及, 将所述网络地址加入消息队列并发送至 需要消费的客户端进行监 听并消费; 所述客户 端根据所述消息队列中的所述网络地址拉取所述云服务平台中保存的JSON文件, 解析并消 费。 2.根据权利要求1所述的一种数据处理方法, 其特征在于, 判断所述Redis列队攒批是 否结束的方法包括: 在Redis列队接收到数据时, 对Redis列队中的数据数进行累加得到数据量总和; 以及, 判断所述数据量总和是否大于预设数目; 如果是, 则判定所述Redis列队攒批已经结 束。 3.根据权利要求2所述的一种数据处理方法, 其特征在于, 判断所述Redis列队攒批是 否结束的方法还 包括: 在Redis列队接收到数据时, 记录最近 接收的数据的时刻; 判断在预设时长内是否接收到下一数据; 如果否, 则判定所述Redis列队攒批已经结 束。 4.根据权利要求3所述的一种数据处理方法, 其特征在于, 所述客户端根据所述消息队 列中的所述网络地址拉取 所述云服 务平台中保存的JSON文件, 解析并消费, 包括: 基于dataFl ow提供的API 监听所述消息队列中的批处 理消息; 判断批处理消息的网络地址是否为所需的JSON文件的网络地址; 如果是, 下载并解析 相对应的JSON文件; 以及, 通过数据消费方法进行 数据消费。 5.根据权利要求4所述的一种数据处理方法, 其特征在于, 所述数据消费方法的配置方 法包括: 通过装饰 器模式构造 至少一个抽象装饰监听器; 以及, 为需要消费数据的客户端配置所述抽象装置监听器并重写所述抽象装置监听器中的 数据消费方法。 6.根据权利要求5所述的一种数据处理方法, 其特征在于, 选用rocketmq用做消息队 列。 7.根据权利要求1所述的一种数据处理方法, 其特征在于, 所述云服务平台包括阿里 云、 腾讯云、 华为云、 谷歌云、 微软云中的至少一个。 8.一种数据处 理系统, 其特 征在于, 包括: 第一处理模块 (201) , 用于: 在接收到数据时, 根据所述数据所属的业务场景类型将所 述数据发送至所述 业务场景类型中的Redis列队进行攒 批;权 利 要 求 书 1/2 页 2 CN 115048418 A 2第二处理模块 (202) , 用于: 在所述Redis列队攒批结束时, 取出Redis列队中的所有数 据并Redis列队当前攒 批的所有数据清空使得 所述Redis列队能够重新用于 攒批数据; 第三处理模块 (20 3) , 用于: 基于取 出的所有数据生成JSON文件; 第四处理模块 (204) , 用于: 将所述JS ON文件上传至云服务平台并获取所述云服务平台 反馈的上传结果, 在所述JSON文件上传成功时获取 所述JSON文件所对应的网络地址; 以及, 第五处理模块 (205) , 用于: 将所述网络地址加入消息队列并发送至需要消费的客户端 进行监听并消费; 所述客户端根据所述消息队列中的所述网络地址拉取所述云服务平台中 保存的JSON文件, 解析并消费。 9.一种计算机设备, 其特征在于: 包括存储器和服务器, 所述存储器上存储有被服务器 加载并执 行的如权利要求1至7中任一方法的计算机程序。 10.一种计算机可读存储介质, 其特征在于, 存储有能够被服务器加载并执行如权利要 求1至7中任一方法的计算机程序。权 利 要 求 书 2/2 页 3 CN 115048418 A 3
专利 一种数据处理方法及系统
文档预览
中文文档
11 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共11页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 人生无常 于
2024-03-18 17:15:22
上传分享
举报
下载
原文档
(403.4 KB)
分享
友情链接
信通院 白皮书-移动应用-App数据安全与个人信息保护白皮书-1225.pdf
GB-T 34658-2017 电动汽车非车载传导式充电机与电池管理系统之间的通信协议一致性测试.pdf
GB-T 20733-2022 数码照相机 术语.pdf
GB-T 37933-2019 信息安全技术 工业控制系统专用防火墙技术要求.pdf
腾讯安全 浅谈腾讯加密勒索病毒防御实践.pdf
T-ZNZ 189—2023 水产品中生物胺的测定 液相色谱-串联质谱法.pdf
绿盟 赵粮 大模型浪潮下的全球网络安全思考-2023TechWorld-final.pdf
GB 25723-2010 点火枪安全与质量.pdf
等保三级-安全技术-数据安全.doc
GB-T 39552.2-2020 太阳镜和太阳镜片 第2部分:试验方法.pdf
GB-T 13734-2008 耳穴名称与定位.pdf
GB-T 23000-2017 信息化和工业化融合管理体系 基础和术语.pdf
DB22-T 1945-2013 信息系统运行维护技术服务规范应用 软件系统部分 吉林省.pdf
GB-T 19867.6-2016 激光-电弧复合焊接工艺规程.pdf
GB-T 37002-2018 信息安全技术 电子邮件系统安全技术要求.pdf
GB-T 11066.1-2008 金化学分析方法 金量的测定 火试金法.pdf
T-CI 153—2023 人工智能驱动的制造业产品生命周期价值链管理优化技术规范.pdf
GB-T 5541-2017 分散染料 高温分散稳定性的测定 双层滤纸过滤法.pdf
GB-T 37550-2019 电子商务数据资产评价指标体系.pdf
GM-T 0005-2021 随机性检测规范.pdf
交流群
-->
1
/
3
11
评价文档
赞助2元 点击下载(403.4 KB)
回到顶部
×
微信扫码支付
2
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。