说明:收录25万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
联系我们
问题反馈
文件分类
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211237745.0 (22)申请日 2022.10.11 (71)申请人 浩鲸云计算科技股份有限公司 地址 210000 江苏省南京市雨 花台区安德 门大街50号B座6楼 (72)发明人 鲍钟峻 刘军华 赵涛 (74)专利代理 机构 南京中盟科创知识产权代理 事务所 (特殊普通合伙) 32279 专利代理师 孙丽君 (51)Int.Cl. G06F 16/2455(2019.01) G06F 16/242(2019.01) G06F 16/28(2019.01) G06F 16/901(2019.01) (54)发明名称 一种基于业务对象智能动态化实时生成关 联数据图的方法 (57)摘要 本发明公开了一种基于业务对象智能动态 化实时生成关联数据图的方法, 包括以下步骤: 数据实时入湖, 并通过存储组件进行存储; 创建 入湖数据触发器; 实时从mq组件中读取增量数 据, 提取关键信息; 提取关键信息形成数据体, 使 用图数据库存储 数据之间的关联关系; 利用实时 技术及时获取变动的数据; 实时变动数据, 通过 数据关联关系正向快速查询形成关联关系图; 通 过数据关联关系反向快速查询形成关联关系图。 本发明通过触发器提出可用于创建关联关系的 结构化数据, 对 结构化数据利用关联关系分析算 法与存量数据进行关联分析, 通过查询某一个数 据, 可以很快的根据数据的关联关系绘制数据关 联的知识图谱, 可方便快捷的为业务提供有用的 数据。 权利要求书2页 说明书18页 附图9页 CN 115309789 A 2022.11.08 CN 115309789 A 1.一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 该方法包 括以下步骤: S1、 通过实时或批量入湖的采集, 将结构化、 半结构及非结构化的数据实时入湖, 并通 过存储组件进行存 储; S2、 创建入湖数据触发器, 实时抓取入源的数据, 并将数据按预设的格式存储至mq组件 中; S3、 通过部署实时计算程序, 实时从mq组件中读取增量数据, 并对增量数据进行预处 理, 提取关键信息; S4、 将提取关键信息形成数据体, 并基于数据体进行 数据的关联关系分析; S5、 根据数据的关联关系找到对应的元数据及属性相关的数据, 并使用图数据库存储 数据之间的关联关系; S6、 利用实时技 术及时获取变动的数据, 并对数据进行 联动分析; S7、 实时变动数据, 并利用图数据库对变动的数据进行 更新存储; S8、 通过数据关联关系正向快速查询形成关联关系图; S9、 通过数据关联关系反向快速查询形成关联关系图。 2.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述存 储组件包括Hudi存 储组件和Ozo ne存储组件; 其中, 所述Hudi存 储组件用于存 储结构化和半结构数据; 所述Ozone存储组件用于存 储非结构与部分类型的半结构化数据。 3.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S 3通过部署实时计算程序, 实时从mq组件中读取增量数据, 并对增量数据 进行预处理, 提取关键信息包括以下步骤: S31、 实时监听并逐 条读取或小批次的读取增量数据; S32、 对读取到的增量数据进行 数据格式的转换; S33、 在格式转换后, 构建一张内存的表; S34、 通过sql语句对数据过 滤; S35、 生成以表 记录形式为主的数据体, 并在内存中进行存 储。 4.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S4中将提取关键信息形成数据体, 并基于数据体进行数据的关联关系分 析通过关联关系分析算法进行 数据的关联关系识别。 5.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S5中根据数据的关联关系找到对应的元数据及属性相关的数据, 并使用 图数据库存 储数据之间的关联关系包括以下步骤: S51、 根据当前的所述数据体, 创建点的数据, 所述 点的数据包括 点与标签; S52、 创建点的属性; S53、 创建数据的关联关系。 6.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S6利用实时技术及时获取变动的数据, 并对数据进行联动分析包括以下 步骤:权 利 要 求 书 1/2 页 2 CN 115309789 A 2S61、 利用实时技 术实时抓取 数据; S62、 将抓取的实时数据与历史的数据进行 结合并利用关联关系分析算法重新分析; S63、 分析出当前实时数据与历史数据新的关联关系; S64、 加载 数据现有的关联关系, 同新的关联关系对比, 找出不 一样的关联关系; S65、 将不在新的关联关系中的数据进行删除; S66、 更新数据, 所述数据包括节点、 属性及新增的关联关系数据。 7.根据权利要求6所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S7中利用图数据库对变动的数据进行 更新存储包括以下步骤: S71、 通过变动的数据体, 利用图数据库的查询语句定位到要更新的数据; S72、 根据定位的数据, 并通过set语句修改数据对应的属性数据; S73、 根据新的关联关系对点的关联关系进行 更新。 8.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S 8中通过数据关联关系正向快速查询形成关联关系图包括以下步骤: S81、 对数据本身以及元 数据相关信息进行查询; S82、 对查询的数据关联 出与数据相关的数据; S83、 基于关联出的数据进行数据的知识图谱绘制, 并形成数据 下上游的数据与数据间 的关联关系图。 9.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S9中通过 数据关联关系反向快速查询形成关联关系图包括以下步骤: S91、 通过关联关系最尾端的数据查询与其关联的上游数据; S92、 以上游的数据作为当前 数据遍历其上游的数据; S93、 通过反向查询生成从下至上的数据关联关系图谱, 并形成数据 下上游的数据与数 据间的关联关系图。 10.根据权利要求6所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述实时技 术包括fl ink技术或sparkst reaming技术中的至少一种。权 利 要 求 书 2/2 页 3 CN 115309789 A 3
专利 一种基于业务对象智能动态化实时生成关联数据图的方法
文档预览
中文文档
30 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共30页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 人生无常 于
2024-03-18 17:14:39
上传分享
举报
下载
原文档
(1.1 MB)
分享
友情链接
CSA 医疗健康网络安全手册.pdf
GB/Z 24294.3-2017 信息安全技术 基于互联网电子政务信息安全实施指南 第3部分:身份认证与授权管理.pdf
DB65-T4620-2022 绿色公路建设技术指南 新疆维吾尔自治区.pdf
GM-T 0071-2019 电子文件密码应用指南.pdf
NY-T 852-2004 烟草产地环境技术条件.pdf
DB22-T 1582-2012 工业企业能源计量数据管理规范 吉林省.pdf
GB 55019-2021 建筑与市政工程无障碍通用规范.pdf
GB-T 19315-2003 小艇 最大装载量.pdf
DB3711-T 134-2023 化工企业投资项目节能报告编制指南 日照市.pdf
GB-T 24525-2009 炭素材料电阻率测定方法.pdf
GB-T 42591-2023 燃气轮机 质量控制规范.pdf
GB-T 42442.1-2023 智慧城市 智慧停车 第1部分:总体要求.pdf
GB-T 29862-2013 纺织品 纤维含量的标识.pdf
GB-T 18801-2022 空气净化器.pdf
DB51-T 3050-2023 四川省行政执法案件编号规则 四川省.pdf
GB-T 40731-2021 精密减速器回差测试与评价方法.pdf
GB-T 22360-2008 真空泵 安全要求.pdf
GB-T 30273-2013 信息安全技术 信息系统安全保障通用评估指南.pdf
GB-T 35410-2017 液相色谱-串联四极质谱仪性能的测定方法.pdf
GB-T 10001.1-2012 公共信息图形符号 第1部分:通用符号.pdf
交流群
-->
1
/
3
30
评价文档
赞助2元 点击下载(1.1 MB)
回到顶部
×
微信扫码支付
2
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。