(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210130414.0 (22)申请日 2022.02.11 (71)申请人 阿里巴巴 （中国） 有限公司 地址 310051 浙江省杭州市滨江区长河街 道网商路69 9号4号楼5楼5 08室 (72)发明人 耿瑞莹　李亮　黎槟华　石翔　 惠彬原　李永彬　孙健　 (74)专利代理 机构 北京润泽恒知识产权代理有 限公司 1 1319 专利代理师 郝玉娥 (51)Int.Cl. G06F 16/33(2019.01) G06F 16/36(2019.01) G06N 5/02(2006.01) G06N 3/04(2006.01)G06F 40/247(2020.01) G06F 40/279(2020.01) (54)发明名称 实体描述文本生成方法、 装置及设备 (57)摘要 本申请公开了实体描述文本生成方法和装 置。 其中， 所述方法通过在解码阶段联合建模实 体属性数据的关系和解码状态， 使得保留了实体 属性数据原本的结构信息， 避免了在解码阶段将 所有属性数据视为无序的序列， 实现了结构感知 的注意力机制， 因此， 可 以有效提升实体描述文 本的准确度。 权利要求书3页 说明书11页 附图3页 CN 114579697 A 2022.06.03 CN 114579697 A 1.一种实体描述文本生成方法， 其特 征在于， 包括： 获取目标实体的多个属性数据和多个属性数据之间的关系； 在通过基于编码器解码器结构的预训练语言模型根据所述多个属性数据生成目标实 体的描述文本时， 在各个解码时刻 对所述多个属性数据之 间的关系和解码状态数据进 行联 合建模， 以获取 所述解码时刻的与属性关系相关的上 下文向量表示； 根据所述与属性关系相关的上 下文向量表示， 生成所述目标实体的描述文本 。 2.根据权利要求1的方法， 其特 征在于， 还 包括： 编码器通过第一结构化 适配器对所述多个属性数据之间的关系进行建模。 3.根据权利要求2的方法， 其特 征在于， 编码器通过编码层， 获取所述多个属性数据的向量表示， 所述编码器包括至少一个编 码层； 编码器通过与 所述编码层对应的第 一结构化适配器， 根据 所述多个属性数据之间的关 系和所述多个属性数据的向量表示， 确定所述多个属性数据 的与属性关系相关的向量表 示。 4.根据权利要求1或者3的方法， 其特征在于， 所述解码状态数据包括已生成文本， 所述 在各个解码时刻 对所述多个属性数据之 间的关系和解码 状态数据进行联合建模， 以获取所 述解码时刻的与属性关系相关的上 下文向量表示， 包括： 解码器通过解码层， 获取所述已生成文本的向量表示， 所述解码器包括至少一个解码 层； 解码器通过动态图交 互模块， 形成所述已生成文本与未解码属性数据之间的关系； 解码器通过至少一个注意力模块， 根据所述多个属性数据的向量表示、 所述已生成文 本的向量表示、 所述已生成文本与所述未解码属 性数据之间的关系、 所述未解码属 性数据 之间的关系， 获取 所述与属性关系相关的上 下文向量表示。 5.根据权利要求4的方法， 其特征在于， 所述解码器通过至少一个注意力模块， 根据所 述多个属 性数据的向量表示、 所述已生成文本的向量表示、 所述已生成文本与所述未解码 属性数据之间的关系、 所述未解码属 性数据之间的关系， 获取所述与属 性关系相关的上下 文向量表示， 包括： 解码器通过至少一个注意力模块， 根据所述多个属性数据的向量表示、 所述已生成文 本与所述未解码属 性数据之间的关系、 所述未解码属 性数据之间的关系， 更新所述已生成 文本的向量表示， 将所述已生成文本的更新后向量表示作为所述与属性关系相关的上下文 向量表示。 6.根据权利要求4的方法， 其特征在于， 所述解码器在各个解码时刻对所述多个属性数 据之间的关系和解码 状态数据进 行联合建模， 以获取所述解码时刻的与属性关系相关的上 下文向量表示， 还 包括： 解码器通过与所述解码层对应的第二结构化适配器， 更新所述已生成文本的向量表 示。 7.一种实体描述文本生成装置， 其特 征在于， 包括： 属性数据及 关系获取单元， 用于获取目标实体的多个属性数据和多个属性数据之间的 关系；权　利　要　求　书 1/3 页 2 CN 114579697 A 2联合属性关系解码单元， 用于在通过基于编码器解码器结构的预训练语言模型根据 所 述多个属性数据生成目标实体的描述文本时， 在各个解码时刻 对所述多个属性数据之 间的 关系和解码 状态数据进行联合建模， 以获取所述解码时刻的与属性关系相关的上下文向量 表示； 文本确定单元， 用于根据所述与属性关系相关的上下文向量表示， 生成所述目标实体 的描述文本 。 8.一种电子设备， 其特 征在于， 包括： 处理器和存 储器； 存储器， 用于存储实现根据权利要求1 ‑6所述的实体描述文本生成方法的程序， 该设备 通电并通过 所述处理器运行 该方法的程序。 9.一种实体描述文本生成方法， 其特 征在于， 包括： 向服务端发送针对目标实体的描述文本获取请求； 接收服务端回送的目标实体的描述文本； 其中， 服务端采用如下 方式生成所述描述文本： 获取目标实体的多个属性数据和多个属性数据之间的关系； 在通过基于编码器解码器结构的预训练语言模型根据所述多个属性数据生成目标实 体的描述文本时， 在各个解码时刻 对所述多个属性数据之 间的关系和解码状态数据进 行联 合建模， 以获取 所述解码时刻的与属性关系相关的上 下文向量表示； 根据所述与属性关系相关的上 下文向量表示， 生成所述目标实体的描述文本 。 10.一种实体描述文本生成方法， 其特 征在于， 包括： 接收客户端发送的针对目标实体的描述文本获取请求； 获取目标实体的多个属性数据和多个属性数据之间的关系； 在通过基于编码器解码器结构的预训练语言模型根据所述多个属性数据生成目标实 体的描述文本时， 在各个解码时刻 对所述多个属性数据之 间的关系和解码状态数据进 行联 合建模， 以获取 所述解码时刻的与属性关系相关的上 下文向量表示； 根据所述与属性关系相关的上 下文向量表示， 生成所述目标实体的描述文本； 向客户端回送所述描述文本 。 11.一种人物传记生成方法， 其特 征在于， 包括： 获取目标用户的多个属性数据和多个属性数据之间的关系； 在通过基于编码器解码器结构的预训练语言模型根据所述多个属性数据生成目标用 户的传记时， 在各个解码时刻 对所述多个属性数据之 间的关系和解码状态数据进 行联合建 模， 以获取 所述解码时刻的上 下文向量表示； 根据所述 解码时刻的上 下文向量表示， 确定所述目标用户的传记。 12.一种新闻赛事生成方法， 其特 征在于， 包括： 获取目标赛事的多个属性数据和多个属性数据之间的关系； 在通过基于编码器解码器结构的预训练语言模型根据所述多个属性数据生成目标赛 事的新闻时， 在各个解码时刻 对所述多个属性数据之 间的关系和解码状态数据进 行联合建 模， 以获取 所述解码时刻的上 下文向量表示； 根据所述 解码时刻的上 下文向量表示， 确定所述目标赛事的新闻。权　利　要　求　书 2/3 页 3 CN 114579697 A 3