说明:收录25万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211237745.0 (22)申请日 2022.10.11 (71)申请人 浩鲸云计算科技股份有限公司 地址 210000 江苏省南京市雨 花台区安德 门大街50号B座6楼 (72)发明人 鲍钟峻 刘军华 赵涛  (74)专利代理 机构 南京中盟科创知识产权代理 事务所 (特殊普通合伙) 32279 专利代理师 孙丽君 (51)Int.Cl. G06F 16/2455(2019.01) G06F 16/242(2019.01) G06F 16/28(2019.01) G06F 16/901(2019.01) (54)发明名称 一种基于业务对象智能动态化实时生成关 联数据图的方法 (57)摘要 本发明公开了一种基于业务对象智能动态 化实时生成关联数据图的方法, 包括以下步骤: 数据实时入湖, 并通过存储组件进行存储; 创建 入湖数据触发器; 实时从mq组件中读取增量数 据, 提取关键信息; 提取关键信息形成数据体, 使 用图数据库存储 数据之间的关联关系; 利用实时 技术及时获取变动的数据; 实时变动数据, 通过 数据关联关系正向快速查询形成关联关系图; 通 过数据关联关系反向快速查询形成关联关系图。 本发明通过触发器提出可用于创建关联关系的 结构化数据, 对 结构化数据利用关联关系分析算 法与存量数据进行关联分析, 通过查询某一个数 据, 可以很快的根据数据的关联关系绘制数据关 联的知识图谱, 可方便快捷的为业务提供有用的 数据。 权利要求书2页 说明书18页 附图9页 CN 115309789 A 2022.11.08 CN 115309789 A 1.一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 该方法包 括以下步骤: S1、 通过实时或批量入湖的采集, 将结构化、 半结构及非结构化的数据实时入湖, 并通 过存储组件进行存 储; S2、 创建入湖数据触发器, 实时抓取入源的数据, 并将数据按预设的格式存储至mq组件 中; S3、 通过部署实时计算程序, 实时从mq组件中读取增量数据, 并对增量数据进行预处 理, 提取关键信息; S4、 将提取关键信息形成数据体, 并基于数据体进行 数据的关联关系分析; S5、 根据数据的关联关系找到对应的元数据及属性相关的数据, 并使用图数据库存储 数据之间的关联关系; S6、 利用实时技 术及时获取变动的数据, 并对数据进行 联动分析; S7、 实时变动数据, 并利用图数据库对变动的数据进行 更新存储; S8、 通过数据关联关系正向快速查询形成关联关系图; S9、 通过数据关联关系反向快速查询形成关联关系图。 2.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述存 储组件包括Hudi存 储组件和Ozo ne存储组件; 其中, 所述Hudi存 储组件用于存 储结构化和半结构数据; 所述Ozone存储组件用于存 储非结构与部分类型的半结构化数据。 3.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S 3通过部署实时计算程序, 实时从mq组件中读取增量数据, 并对增量数据 进行预处理, 提取关键信息包括以下步骤: S31、 实时监听并逐 条读取或小批次的读取增量数据; S32、 对读取到的增量数据进行 数据格式的转换; S33、 在格式转换后, 构建一张内存的表; S34、 通过sql语句对数据过 滤; S35、 生成以表 记录形式为主的数据体, 并在内存中进行存 储。 4.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S4中将提取关键信息形成数据体, 并基于数据体进行数据的关联关系分 析通过关联关系分析算法进行 数据的关联关系识别。 5.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S5中根据数据的关联关系找到对应的元数据及属性相关的数据, 并使用 图数据库存 储数据之间的关联关系包括以下步骤: S51、 根据当前的所述数据体, 创建点的数据, 所述 点的数据包括 点与标签; S52、 创建点的属性; S53、 创建数据的关联关系。 6.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S6利用实时技术及时获取变动的数据, 并对数据进行联动分析包括以下 步骤:权 利 要 求 书 1/2 页 2 CN 115309789 A 2S61、 利用实时技 术实时抓取 数据; S62、 将抓取的实时数据与历史的数据进行 结合并利用关联关系分析算法重新分析; S63、 分析出当前实时数据与历史数据新的关联关系; S64、 加载 数据现有的关联关系, 同新的关联关系对比, 找出不 一样的关联关系; S65、 将不在新的关联关系中的数据进行删除; S66、 更新数据, 所述数据包括节点、 属性及新增的关联关系数据。 7.根据权利要求6所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S7中利用图数据库对变动的数据进行 更新存储包括以下步骤: S71、 通过变动的数据体, 利用图数据库的查询语句定位到要更新的数据; S72、 根据定位的数据, 并通过set语句修改数据对应的属性数据; S73、 根据新的关联关系对点的关联关系进行 更新。 8.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S 8中通过数据关联关系正向快速查询形成关联关系图包括以下步骤: S81、 对数据本身以及元 数据相关信息进行查询; S82、 对查询的数据关联 出与数据相关的数据; S83、 基于关联出的数据进行数据的知识图谱绘制, 并形成数据 下上游的数据与数据间 的关联关系图。 9.根据权利要求1所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述S9中通过 数据关联关系反向快速查询形成关联关系图包括以下步骤: S91、 通过关联关系最尾端的数据查询与其关联的上游数据; S92、 以上游的数据作为当前 数据遍历其上游的数据; S93、 通过反向查询生成从下至上的数据关联关系图谱, 并形成数据 下上游的数据与数 据间的关联关系图。 10.根据权利要求6所述的一种基于业务对象智能动态化实时生成关联数据图的方法, 其特征在于, 所述实时技 术包括fl ink技术或sparkst reaming技术中的至少一种。权 利 要 求 书 2/2 页 3 CN 115309789 A 3

.PDF文档 专利 一种基于业务对象智能动态化实时生成关联数据图的方法

文档预览
中文文档 30 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共30页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于业务对象智能动态化实时生成关联数据图的方法 第 1 页 专利 一种基于业务对象智能动态化实时生成关联数据图的方法 第 2 页 专利 一种基于业务对象智能动态化实时生成关联数据图的方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 17:14:39上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。