(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210535098.5 (22)申请日 2022.05.16 (71)申请人 中国石油大 学 （华东） 地址 266580 山东省青岛市黄岛区长江西 路66号 (72)发明人 孙浩　张琪　马孝光　洪延榕　 (51)Int.Cl. G06N 20/20(2019.01) G16Y 30/10(2020.01) H04L 9/08(2006.01) H04L 9/32(2006.01) H04L 67/10(2022.01) H04L 67/12(2022.01) (54)发明名称 一种基于边缘计算和迁移学习的工业物联 网设备参与联邦学习方法 (57)摘要 随着人工智能和物联网的发展， 工业4.0时 代已经到来。 据IBM预测， 随着5G技术的不断普 及， 物联网技术将在工厂得到更广泛的应用。 近 年来， 联邦学习已成为工业物联网研究人员的热 门话题。 然而， 工业物联网中的许多设备目前存 在计算能力低的问题， 因此这些设备在联邦学习 中无法很好地执行训练和更新模 型的任务。 为了 解决上述问题， 我们在工业物联网中引入边缘计 算， 使设备能够完成联邦学习操作。 为了保证数 据传输的安全性， 系统引入区块链作为设备认证 的主要算法。 此外， 为了提高工业物联网培训模 式的效率和通用性， 我们引入了迁移学习来提高 系统性能。 本发 明降低了低性能工业物联网设备 参与联邦 学习的门槛， 避免了多数物联网设备要 在联邦学习普及过程中被淘汰的命运， 为我国构 建节约型社会做出贡献， 并降低了联邦学习的普 及门槛加速 了联邦学习的普及进度。 权利要求书1页 说明书5页 附图2页 CN 115169590 A 2022.10.11 CN 115169590 A 1.一种基于边缘计算和迁移学习的工业物联网设备参与联邦学习方法， 包括以下部 分： A、 基于区块链的设备身份认证技 术； B、 联邦学习中的边 缘计算技术； C、 联邦学习中的迁移学习技 术。 2.根据权利要求1所述的基于边缘计算和迁移学习的工业物联网设备参与 联邦学习方 法， 其特征在于， 所述的部 分A中， 区块链系统构建了一个由工业物联网设备、 边缘服务器和 云服务器组成的区块网络。 在这个网络中， 物联网设备节点不承担数据计算工作， 我们让现 有的云服务器作为创建节点。 我们选择Ripple共识算法作为共识机制。 在本文设计的区块 链系统中， 当一个节点启动一个应用程序时， 计费节点将验证该节点的身份， 如果验证通 过， 则对其进行签名。 3.根据权利要求1所述的基于边缘计算和迁移学习的工业物联网设备参与 联邦学习方 法， 其特征在于， 所述的部分B中， 所述的联邦学习中的边缘计算技术是指： 在本发明中， 由 于工业物联网缺乏计算能力， 边缘计算方法被用来解决这个问题。 在本发明的设计中， 每个 工厂都将配备自己的边缘服务器。 当需要训练时， 设备会将自己的数据和设备号批量上传 到边缘服务器。 边缘服务器使用快速排序对所有 数据进行排序， 比较排序后的数据， 并删除 重复数据。 4.根据权利要求1所述的基于边缘计算和迁移学习的工业物联网设备参与 联邦学习方 法， 其特征在于， 所述的部 分C中， 所述的联邦学习中的迁移学习技术是指： 我们为工业物联 网现场的联邦迁移学习设计了一个模型训练框架。 无监督域自适应的一种常用方法是将模 型分为两部 分： 特征提取和分类器。 特征抽取器用于将数据映射到特征空间， 分类器根据特 征对数据进行分类。 为了在目标域中获得更好的结果， 需要减小源区域和目标区域在特征 空间中的分布差异。权　利　要　求　书 1/1 页 2 CN 115169590 A 2一种基于边缘 计算和迁移 学习的工 业物联网 设备参与联邦学 习方法 技术领域 [0001]本发明涉及 一种低性能工业物联网设备参与联邦学习的方法， 特别涉及一种基于 边缘计算和迁移学习的工业物联网设备参与联邦学习方法， 该 方法还采用区块链技 术。 背景技术 [0002]目前， 随着物联 网技术的快速 发展和工业4.0时代的到来， 工业物联 网已经开始进 入我们的生产和生活。 基于工业物联网技术， 将具有传感和监控能力的现代传感器和控制 器集成到工业生产过程中， 实现实时数据采集、 智能分析和移动通信， 提高工业制造水平， 实现传统工业制造向现代化、 智能化的转变， 实现质的突破。 从工业物联网技术的应用现状 来看， 它显示出 许多优势， 如安全性、 实时性、 自动化、 嵌入式、 互操作性和互连性。 [0003]随着人工智能技术的不断发展， 人工智能为工业物联网提供了更广阔的发展空 间， 这也是未来工业物联网技术的发展趋势。 基于工业物联网技术， 工业生产中的机器人和 自动化技术将得到精确的改进， 制 造工厂最终将朝着无人工厂的方向发展。 传统的机器学 习方案需要将每个工厂收集的数据从本地设备迁移到集中式云上进行培训。 然而， 在将数 据从本地设备传输到集中式云上时仍然存在严重 问题。 例如， 每个工厂的机密信息很可能 会泄露给竞争对手， 所有数据 的传输都会占用大量带宽资源。 因此， 联邦学习的概念被提 出。 联邦学习 是一种新的机器学习方案， 它 可以在不将数据从本地设备传输到集中式云的 情况下保护用户隐私。 联邦学习展示了分布式学习的观点， 而不是从用户那里收集整个数 据集。 它使设备能够基于本地数据训练模型， 以保护用户的 隐私。 全局模型通过从设备收集 本地模型更新进行迭代更新。 然后， 中央设备将全局模型更新反馈给用户。 这个迭代过程一 直有效， 直到收敛到全局联邦学习模型的精度。 [0004]随着数据规模和计算资源的快速增长， 机器学习在理论和实践上都取得了巨大的 进步。 传统的机器学习方法通常依赖于数据生 成机制不随环 境变化的基本假设。 然而， 在机 器学习的各个应用领域， 如大数据分析、 自然语言处理、 计算机视觉、 生物信息学等， 由于其 严格性， 上述假设往往难以建立。 如何在非平稳环境中分析和挖掘大规模数据是现代机器 学习领域最具挑战性的前沿方向之一。 迁移学习放松了传统机器学习中训练数据和测试数 据必须服从独立分布约束的 限制， 因此它可以在两个不同但相互关联的领域之 间挖掘领域 不变的基本特征和结构， 使得注释数据等监督信息可以在领域之间传输和重用。 迁移学习 是解决目标任务标注数据匮乏的基本方法， 其研究仍处于一个富有挑战性的阶段。 该算法 的目的是转移已有的知识， 解决目标域中只有少量标记样本数据的学习问题。 在工业物联 网环境下， 迁移学习也有很好的应用前景。 工业物联网中的许多培训任务具有一定的互操 作性。 如果将迁移学习应用到这些任务中， 将节省大量时间和计算资源。 [0005]联邦学习的基本目标是保护用户的隐私。 在计算能力有限的工业物联网环境下， 本文提出将低计算能力设备的数据传输到工厂内部网的边缘服务器进 行计算。 但在数据传 输过程中存在数据泄漏的风险。 因此， 本文提出在数据传输和设备验证中使用区块链， 以确说　明　书 1/5 页 3 CN 115169590 A 3