(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210369523.8 (22)申请日 2022.04.08 (71)申请人 国网河北省电力有限公司信息通信 分公司 地址 050026 河北省石家庄市裕华区富强 大街10号 申请人 国家电网有限公司 　北京邮电大 学 (72)发明人 殷娣娣　赵炜　成思远　魏勇　 付强　王冬宇　刘毅　张小龙　 郭秋君　李特　王尧　侯卓言　 石子昊　靳琳　 (74)专利代理 机构 石家庄国为知识产权事务所 13120 专利代理师 付晓娣(51)Int.Cl. G06F 16/33(2019.01) G06F 16/36(2019.01) G06F 40/295(2020.01) G06F 40/30(2020.01) G06Q 30/00(2012.01) G06Q 50/06(2012.01) (54)发明名称 基于深度学习的智慧客服语义检索方法、 装 置及系统 (57)摘要 本申请适用于深度学习技术领域， 提供了基 于深度学习的智慧客服语义检索方法、 装置及系 统， 该方法包括： 接收来自终端的用户问题， 用户 问题包括用户向智慧客服咨询的文本问题； 基于 命名实体识别模 型对用户问题进行 实体抽取， 获 得第一实体集； 根据第一实体集与知识库数据进 行实体链接， 获得第二实体集， 其中， 第二实体集 包括多个候选实体； 确定目标 实体， 其中， 目标 实 体为多个候选实体中与用户问题相似度最高的 候选实体； 基于目标实体生成检索结果， 并向终 端发送检索结果。 本申请使智慧客服能够快速准 确的检索出用户所要咨询的问题并予以答复， 达 到降低检索算力， 提高沟通效率， 提升用户服务 满意度的效果。 权利要求书2页 说明书13页 附图4页 CN 114817461 A 2022.07.29 CN 114817461 A 1.一种基于深度学习的智慧客 服语义检索方法， 其特 征在于， 包括： 接收来自终端的用户问题， 所述用户问题包括用户向智慧客 服咨询的文本问题； 基于命名实体识别模型对所述用户问题进行实体抽取， 获得第一实体集； 根据所述第一实体集与知识库 数据进行实体链接， 获得第 二实体集， 其中， 所述第二实 体集包括多个候选实体； 确定目标实体， 其中， 所述目标实体为所述多个候选实体中与所述用户问题相似度最 高的候选实体； 基于所述目标实体生成检索结果， 并向所述终端发送所述检索结果。 2.如权利要求1所述的方法， 其特 征在于， 确定目标实体， 包括： 将所述第二实体集中的每 个候选实体进行编码， 获得每 个候选实体对应的第一向量； 将所述用户问题中的文本问题进行编码， 获得第二向量； 计算每个第一向量和所述第二向量之间的相似度； 将与所述第二向量之间的相似度最高的第 一向量所对应的候选实体， 确定为所述目标 实体。 3.如权利要求2所述的方法， 其特征在于， 所述计算每个第 一向量和所述第 二向量之间 的相似度， 包括： 通过余弦相似度计算公式， 对所述第 一向量与所述第 二向量进行相似度比对， 其中， 所 述余弦相似度计算公式为： 式中， X为所述第一向量， Y为所述第二向量， ||X||为第一向量的模值， ||Y||为第二向 量的模值。 4.如权利要求1所述的方法， 其特征在于， 所述知识库数据包括多个第一候选实体集， 每个第一候选实体集包括至少一个候选实体； 所述根据所述第一实体集与知识库数据进行实体链接， 获得第二实体集， 包括： 计算所述第 一实体集与所述知识库 数据中的每个第 一候选实体集的相似度， 将大于或 等于相似度第一阈值的所述第一候选实体集， 确定为第二候选实体集， 其中， 每个所述第二 候选实体集包括至少一个候选实体； 计算所述第 一实体集与所述第 二候选实体集的相似度， 将等于所述相似度第 二阈值的 所述第二候选实体集， 确定为所述第二实体集， 将小于相似度第二阈值的所述第二候选实 体集， 确定为第三 候选实体集， 其中， 每 个所述第三 候选实体集包括至少一个候选实体； 计算所述第 一实体集与所述第 三候选实体集的相似度， 将大于或等于相似度第 三阈值 的所述第三 候选实体集， 确定为所述第二实体集； 所述相似度第 一阈值小于所述相似度第 三阈值， 所述相似度第 三阈值小于所述相似度 第二阈值。 5.如权利要求1所述的方法， 其特征在于， 所述相似度第 一阈值为0.7， 所述相似度第二 阈值为1， 所述相似度第三阈值 为0.9。 6.如权利要求4所述的方法， 其特征在于， 对所述第 一实体集与 所述知识库 数据进行实权　利　要　求　书 1/2 页 2 CN 114817461 A 2体链接之前， 还 包括： 将所述知识库数据中的问题文本、 问题属性、 答案文本处理为三元组形式数据集合， 并 形成标注序列， 以对所述知识库数据进行 预处理； 所述知识库数据中至少包括用户问题语料库、 别名词典、 办事流程信 息、 政策信 息和基 本信息。 7.如权利要求1所述的方法， 其特征在于， 所述命名实体识别模型为BERT ‑BiGRU‑ Attention‑CRF模型， 包括： BERT层， BiGRU层， A ttention层和CRF层； 所述BERT层， 用于提取所述用户问题中字符级别向量， 并保留所述用户问题中字符的 顺序， 所述BERT层输出的字符级别向量传递给所述BiGRU层， 其中， 所述BERT层包括三种向 量分别为TokenEmbedding向量、 Segment Embedding向量和Po sitionEmbedding向量， 将所述 TokenEmbedding向量、 所述Segment Embedding向量和所述Po sitionEmbedding向量合并， 用 于保留所述用户问题中字词顺序； 所述BiGRU层， 用于对所述字符级别向量进行语义的特征抽取， 所述BiGRU层接收所述 BERT层输出的字符级别向量， 所述BiGRU层输出的对字符级别向量进行语义的特征抽取传 递给所述Attention层； 所述Attention层， 用于分配所述字符级别向量的注意力权重， 所述Attention层接收 所述BiGRU层输出的对字符级别向量进 行语义的特征抽取， 所述Attention层输出的标签序 列传递给所述CRF层， 其中， 所述注意力权重表征每个所述字符级别向量对所述用户问题的 重要程度； 所述CRF层， 用于选取符合表达逻辑的最佳标注序列， 所述CRF层接收所述Attention层 输出的标签序列， 其中， 所述 最佳标签序列最终采用Viterbi 算法所获得。 8.一种基于深度学习的智慧客 服语义检索装置， 其特 征在于， 包括： 获取模块， 用于接收来自终端的用户问题， 所述用户问题包括用户向智慧客服咨询的 文本问题； 处理模块， 用于基于命名实体识别模型对所述用户问题进行实体抽取， 获得第一实体 集； 处理模块， 还用于根据 所述第一实体集与知识库数据进行实体链接， 获得第 二实体集， 其中， 所述第二实体集包括多个候选实体； 处理模块， 还用于确定目标实体， 其中， 所述目标实体为所述多个候选实体 中与所述用 户问题相似度最高的候选实体； 输出模块， 用于基于所述目标实体生成检索结果， 并向所述终端发送所述检索结果。 9.一种智慧客服系统， 包括存储器和 处理器， 所述存储器中存储有可在所述处理器上 运行的计算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现如权利要求1至7 任一项所述的方法。 10.一种计算机可读存储介质， 所述计算机可读存储介质存储有计算机程序， 其特征在 于， 所述计算机程序被处 理器执行时实现如权利要求1至7任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114817461 A 3