说明:收录25万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211033101.X (22)申请日 2022.08.26 (71)申请人 深圳前海微众 银行股份有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 (入驻深圳市 前海商务秘书 有限公司) (72)发明人 唐兴兴 范力欣 古瀚林  (74)专利代理 机构 深圳市世纪恒程知识产权代 理事务所 4 4287 专利代理师 李俊杰 (51)Int.Cl. G06Q 30/02(2012.01) G06Q 40/00(2012.01) G06K 9/62(2022.01) (54)发明名称 横向联邦模型构建优化方法、 电子设备、 介 质及程序 产品 (57)摘要 本申请公开了一种横向联邦模型构建优化 方法、 电子设备、 介质及程序产品, 应用于服务 端, 包括: 将当前全局模 型下发至各客户端, 以供 客户端根据本地数据, 对当前全局模 型进行本地 训练更新, 得到本地模型; 接收各客户端发送的 本地模型, 依据各客户端置信度, 在各本地模型 中采样选取至少一组本地模型进行聚合, 得到各 聚合模型; 将各聚合模型分别反馈至对应的目标 客户端, 以供各目标客户端利用本地数据评估各 聚合模型的模型效果; 接收各本地模型效果评 分, 根据各本地模型效果评分在各聚合模型中选 取的候选全局模 型, 迭代更新当前全局模型和各 客户端置信度, 直至横向联邦学习训练结束。 本 申请解决了联邦学习过程中如何防御拜占庭攻 击的技术问题。 权利要求书2页 说明书14页 附图5页 CN 115311023 A 2022.11.08 CN 115311023 A 1.一种横向联邦模型构建优化方法, 其特征在于, 应用于服务端, 所述横向联邦模型构 建优化方法包括: 将当前全局模型下发至各客户端, 以供所述客户端根据本地数据, 对所述当前全局模 型进行本地训练更新, 得到 本地模型; 接收各所述客户端发送的本地模型, 依据各所述客户端对应的客户端置信度, 在各所 述本地模型中采样选取至少一组本地模型进 行聚合, 得到各组本地模型分别对应的聚合模 型; 将各所述 聚合模型分别反馈至对应的目标客户端, 以供各所述目标客户端利用所述本 地数据, 对接收到的聚合模型进行模型效果评估, 得到 本地模型效果评分; 接收各所述目标客户端反馈的本地模型效果评分, 根据各所述本地模型效果评分, 在 各所述聚合模型中选取候选全局模型; 依据所述候选全局模型, 迭代更新所述当前全局模型和各所述客户端置信度, 直至横 向联邦学习训练结束。 2.如权利要求1所述横向联邦模型构建优化方法, 其特征在于, 所述根据 各所述本地模 型效果评分, 在各 所述聚合模型中选取候选全局模型的步骤 包括: 对各所述 聚合模型分别对应的至少一个本地模型效果评分分别进行聚合, 得到各所述 聚合模型对应的全局模型效果评分; 根据各所述全局效果评分, 在各 所述聚合模型中选取 所述候选全局模型。 3.如权利要求1所述横向联邦模型构建优化方法, 其特征在于, 所述依据 所述候选全局 模型, 迭代更新所述当前全局模型和各 所述客户端置信度, 包括: 根据所述 候选全局模型对应的全局效果评分, 判断是否 舍弃所述候选全局模型; 若否, 则将所述当前全局模型更新为所述候选全局模型, 以及增大所述候选全局模型 对应的各客户端的客户端置信度, 返回执 行步骤: 将当前全局模型 下发至各客户端; 若是, 则舍弃 所述候选全局模型, 返回执 行步骤: 将当前全局模型 下发至各客户端。 4.如权利要求3所述横向联邦模型构建优化方法, 其特征在于, 所述根据 所述候选全局 模型对应的全局效果评分, 判断是否 舍弃所述候选全局模型的步骤 包括: 判断所述全局效果评分是否小于预设评分阈值, 其中, 所述预设评分阈值为本轮迭代 之前产生的最大全局效果评分; 若小于, 则舍弃 所述候选全局模型; 若不小于, 则不舍弃 所述候选全局模型。 5.如权利要求1所述横向联邦模型构建优化方法, 其特征在于, 所述依据 各所述客户端 对应的客户端置信度, 在各所述本地模型中采样选取至少一组本地模型进行聚合, 得到各 组本地模型分别对应的聚合模型的步骤 包括: 依据各所述客户端置信度, 确定各 所述本地模型对应的采样概 率; 依据各所述采样概率, 在各所述本地模型中采样选取各组本地模型, 其中, 一组本地模 型由预设数量的本地模型组成; 对所述各组本地模型分别进行聚合, 得到各 所述聚合模型。 6.一种横向联邦模型构建优化方法, 其特征在于, 应用于客户端, 所述横向联邦模型构 建优化方法包括:权 利 要 求 书 1/2 页 2 CN 115311023 A 2接收服务端下发的当前全局模型, 根据本地数据, 对所述当前全局模型进行本地训练 更新, 得到 本地模型; 将所述本地模型上传至所述服务端, 以供所述服务端依据 各所述客户端对应的客户端 置信度, 在各所述本地模型中采样选取至少一组本地模型进行聚合, 得到各组本地模型分 别对应的聚合模型; 若接收到所述服务端反馈的聚合模型, 则根据所述本地数据, 对所述聚合模型进行模 型效果评估, 得到 本地模型效果评分; 将所述本地模型效果评分上传至所述服务端, 以供所述服务端根据各所述本地模型效 果评分, 在各所述聚合模型中选取候选全局模型, 并依据所述候选全局模型, 迭代更新所述 当前全局模型和各 所述客户端置信度, 直至横向联邦学习训练结束。 7.如权利要求6所述横向联邦模型构建优化方法, 其特征在于, 所述本地数据至少包括 一本地测试样本, 所述根据所述本地数据, 对所述聚合模型进行模型效果评估, 得到本地模型效果评分 的步骤包括: 利用所述 聚合模型对各所述本地测试样本执行模型预测, 得到各所述本地测试样本对 应的测试输出样本标签; 根据各所述测试输出样本标签和各所述本地测试样本对应的预设真实样本标签, 测试 所述聚合模型的预测准确度, 得到所述本地模型效果评分。 8.一种电子设备, 其特 征在于, 所述电子设备包括: 至少一个处 理器; 以及, 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的指令, 所述指令被所述至少一个处 理器执行, 以使所述至少一个处理器能够执行权利要求 1至7中任一项 所述的横向联邦模型 构建优化方法的步骤。 9.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质上存储有实现横 向联邦模型构建优化方法的程序, 所述 实现横向联邦模型构建优化方法的程序被处理器执 行以实现如权利要求1至7中任一项所述横向联邦模型构建优化方法的步骤。 10.一种计算机程序产品, 包括计算机程序, 其特征在于, 所述计算机程序被处理器执 行时实现如权利要求1至7中任一项所述横向联邦模型构建优化方法的步骤。权 利 要 求 书 2/2 页 3 CN 115311023 A 3

.PDF文档 专利 横向联邦模型构建优化方法、电子设备、介质及程序产品

文档预览
中文文档 22 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共22页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 横向联邦模型构建优化方法、电子设备、介质及程序产品 第 1 页 专利 横向联邦模型构建优化方法、电子设备、介质及程序产品 第 2 页 专利 横向联邦模型构建优化方法、电子设备、介质及程序产品 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 06:33:00上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。