(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211248474.9 (22)申请日 2022.10.12 (71)申请人 华安证券股份有限公司 地址 230031 安徽省合肥市蜀山区天鹅湖 路198号 (72)发明人 徐峰　潘晓明　朱伟伟　马子珺　 郑涛　董伟伟　朱一凡　邓伟康　 李克冲　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 朱威武 (51)Int.Cl. G06Q 30/02(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 潜在客户预测方法、 装置、 电子设备及存储 介质 (57)摘要 本发明提供了一种潜在客户预测方法、 装 置、 电子设备及存储介质， 涉及金融领域， 包括： 拼接待预测对象的所有标签数据低维向量 以及 所有行为数据低维向量， 获取待预测对象的特征 向量； 输入所述特征向量至理财客户预测模型， 获取前馈神经网络模块输出的第一交互结果 以 及多重注 意力融合模块输出的第二交互结果； 聚 合所述第一交互结果以及所述第二交互结果， 获 取最终预测结果， 以根据所述最终预测结果确定 潜在客户。 本发 明能够同时对高阶特征和低阶特 征进行学习， 获得精准二阶特征交互和非线性特 征交互， 实现对稀疏特征的预测， 具有稳定 可靠、 精确度高、 方便快捷的优点， 实现了对于潜在客 户的精准预测。 权利要求书2页 说明书12页 附图5页 CN 115482048 A 2022.12.16 CN 115482048 A 1.一种潜在客户预测方法， 其特 征在于， 包括： 拼接待预测对象的所有标签数据低维向量以及所有行为数据低维向量， 获取待预测对 象的特征向量； 输入所述特征向量至理财客户预测模型， 获取前馈神经网络模块输出的第 一交互结果 以及多重注意力融合模块输出的第二交 互结果； 聚合所述第一交互结果以及所述第二交互结果， 获取最终预测结果， 以根据所述最终 预测结果确定潜在客户； 所述理财客户预测模型包括所述前馈神经网络模块以及所述多重注意力融合模块； 所述理财客户预测模型是通过对多个样本预测对象的样本标签数据、 样本行为数据以 及样本预测结果训练得到的； 所述第二交互结果是根据所述特征向量的一阶特征交互结果以及二阶特征交互结果 计算而确定的。 2.根据权利要求1所述的潜在客户预测方法， 其特征在于， 所述拼接待预测对象的所有 标签数据低维向量以及所有行为数据低维向量， 获取待预测对象的特 征向量， 包括： 独热编码所述待预测对象的每一标签数据， 并将独热编码后的每一标签数据高维向量 映射至低维空间， 获取待预测对象的所有标签数据低维向量； 根据待预测对象的任一行为数据以及所述行为数据 所在时序位置进行编码， 以获取所 述行为数据的低维向量； 遍历待预测对象的所有行为数据， 获取待预测对象的所有行为数据低维向量， 以拼接 所有标签数据低维向量以及所有行为数据低维向量， 获取待预测对象的特 征向量。 3.根据权利要求2所述的潜在客户预测方法， 其特征在于， 所述根据待预测对象的任一 行为数据以及所述行为数据所在时序位置进行编码， 以获取所述行为数据的低 维向量， 包 括： 根据所述行为数据以及所述行为数据相对应的嵌入矩阵确定行为嵌入值； 根据所述行为嵌入值以及时序位置确定行为 位置值； 根据所述行为 位置值以及变换矩阵确定行为向量特 征值； 根据所述行为向量特 征值以及偏置参数确定所述行为数据的低维向量。 4.根据权利要求3所述的潜在客户预测方法， 其特征在于， 所述 时序位置通过如下方式 确定： 在时序位置编码所在维度为奇数维度的情况下， 根据余弦函数处理所述时序位置编 码； 在时序位置编码所在维度为偶数维度的情况下， 根据正弦函数处理所述时序位置编 码。 5.根据权利要求1所述的潜在客户预测方法， 其特征在于， 所述第 二交互结果是根据 所 述特征向量的一阶特 征交互结果以及二阶特 征交互结果计算而确定的， 包括： 基于多重注意力融合模块的第 一层， 对待预测对象的特征向量中的每一低维向量进行 多头自注意力处 理， 以获取每一低维向量的多头自注意力结果； 拼接所有 多头自注意力结果， 获取自注意 一阶特征； 基于多重注意力融合模块的第二层， 对所述自注意一阶特征结果进行注意力聚集处权　利　要　求　书 1/2 页 2 CN 115482048 A 2理， 以获取第二层输出 结果； 根据所述第二层输出 结果与所述自注意 一阶特征的内积确定二阶特 征交互结果； 基于多重注意力 融合模块的第三层， 对所述二阶特征交互结果进行降维处理， 以获取 降维后二阶特 征交互结果； 根据所述降维后二阶交互结果以及所述一阶特征交互结果之和确定所述第二交互结 果。 6.根据权利要求1所述的潜在客户预测方法， 其特征在于， 所述 聚合所述第 一交互结果 以及所述第二交 互结果， 获取最终预测结果， 包括： 根据所述第一交 互结果以及所述第二交 互结果之和 确定结合结果； 采用激活函数处 理所述结合结果， 获取 所述最终预测结果。 7.根据权利要求1所述的潜在客户预测方法， 其特征在于， 所述理财客户预测模型是通 过对多个样本预测对 象的样本标签数据、 样本行为数据以及样本预测结果训练得到的， 包 括： 根据多个样本预测对象的样本标签数据、 样本行为数据以及样本预测结果构建样本数 据集； 根据预设比例划分所述样本数据集， 获取样本训练集以及样本测试集； 根据所述样本训练集以及所述样本测试集构建所述理财客户预测模型。 8.一种潜在客户预测装置， 其特 征在于， 包括： 拼接单元： 用于拼接待预测对象的所有标签数据低维向量以及所有行为数据低维向 量， 获取待预测对象的特 征向量； 获取单元： 用于输入所述特征向量至理财客户预测模型， 获取前馈神经网络模块输出 的第一交 互结果以及多重注意力融合模块输出的第二交 互结果； 聚合单元： 用于聚合所述第一交 互结果以及所述第二交 互结果， 获取最终预测结果； 所述理财客户预测模型是根据所述前馈神经网络模块以及所述多重注意力融合模块 联合训练而确定的； 所述理财客户预测模型是通过对多个样本预测对象的样本标签数据、 样本行为数据以 及样本预测结果训练得到的； 所述第二交互结果是根据所述特征向量的一阶特征交互结果以及二阶特征交互结果 计算而确定的。 9.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现如权利要求1至6任 一项所述的潜在客户预测方法。 10.一种非暂态计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算 机程序被处 理器执行时实现如权利要求1至 6任一项所述的潜在客户预测方法。权　利　要　求　书 2/2 页 3 CN 115482048 A 3