(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210845311.2 (22)申请日 2022.07.19 (71)申请人 内蒙古工业大 学 地址 010080 内蒙古自治区呼和浩特市土 默特左旗内蒙古工业大 学金川校区 (72)发明人 王永生　张哲　刘利民　许志伟　 刘广文　 (74)专利代理 机构 西安智大知识产权代理事务 所 61215 专利代理师 段俊涛 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/06(2012.01) G06F 16/215(2019.01) G06F 16/2458(2019.01)G06F 17/16(2006.01) (54)发明名称 一种基于Tran sformer和改进掩码矩阵的风 电功率预测方法 (57)摘要 本发明提供了一种基于Tran sformer和改进 掩码矩阵的风电功率预测方法， 该方法将含有缺 失值的原始数据与位置矩阵相加， 然后与改进掩 码矩阵相乘以构造主动缺失， 得到带有位置信息 和掩码信息的时间序列数据， 该时间序列数据作 为Transformer中编码器的输入矩阵得到重构数 据， 计算重构数据中主动缺失部分与原始数据中 主动缺失部分之间的损失； 根据重构数据和所述 位置矩阵， 将原始数据中的缺失值插补， 当 Transformer模型收敛的时候， 此时使用重构数 据对原始数据插补出来的结果为最终插补的结 果； 最终利用插补得到的数据集进行风电功能预 测。 本发明能够在数据集不完整的情况下准确地 预测风电功率。 权利要求书2页 说明书6页 附图2页 CN 115330026 A 2022.11.11 CN 115330026 A 1.一种基于Transformer和改进掩码矩阵的风电功率预测方法， 其特 征在于， 包括： 步骤1， 获取原始数据， 所述原始数据为一段时间内的气象数据和风机数据， 原始数据 表现为时间 ‑气象数据 ‑风机数据的三维矩阵， 将所述一段时间划分为多个时间窗口， 每个 时间窗口内形成时间与多 元特征的二 维矩阵， 所述多 元特征包括温度、 湿度、 大气压强以及 功率数据； 步骤2， 将所述原始数据与位置矩阵相加， 然后与改进掩码矩阵相乘以构造主动缺失， 得到带有位置信息和掩码信息的时间序列数据(即一个新矩阵)， 该时间序列数据作为 Transformer中编码器的输入矩阵； 所述改进掩码矩阵中， 针对原始数据中原本缺失、 主动 缺失和不 缺失三种数据的标记不同； 步骤3， 通过损失函数， 计算经过Transformer得到的重构数据中主动缺失部分与原始 数据中主动缺失部分之间的损失； 步骤4， 根据重构数据和所述位置矩阵， 将原始数据中的缺失值插补， 并通过插值公式 计算插补后的数据与原 始数据之间的损失； 步骤5， 当重构数据中主动缺失部分与原始数据中主动缺失部分的真实值之间的损 失 收敛， 即Transformer模 型收敛的时候， 此时使用重构数据对原始数据插补出来的结果为最 终插补的结果； 步骤6， 利用插补得到的数据集进行风电功能预测。 2.根据权利要求1所述基于Transformer和改进掩码矩阵的风电功率预测方法， 其特征 在于， 所述步骤2， 位置矩阵由时间序列固定位置编码矩阵和时延编码矩阵相加得到， 时延 编码 加入在位置信息中， 时延编码矩阵公式如下式所示： 式中， 为掩码矩阵中的值， 为第ti时刻、 第j个特征的时延编码值， 为第ti‑1时 刻、 第j个特 征的时延编码值， N 为滑动时间窗口 的大小， D为特 征的维数。 3.根据权利要求1所述基于Transformer和改进掩码矩阵的风电功率预测方法， 其特征 在于， 所述改进掩码矩阵有3种可选参数： ‑x， 0和x， 其中 ‑x表示原本缺失， 0表 示主动缺失， x 表示不缺失， 改进掩码矩阵的样式如下式所示： 其中 其中： M是一个N ×D的矩阵， 是掩码矩阵3种可选参数之一， 当原始数据中的数据为原 本缺失时， 该 数据对应位置上的 值为‑x， 当原始数据中的数据为主动缺失时， 该 数据对应 位置上的 值为‑0， 当原始数据中的数据为 不缺失时， 该 数据对应位置上的 值为x。权　利　要　求　书 1/2 页 2 CN 115330026 A 24.根据权利要求1所述基于Transformer和改进掩码矩阵的风电功率预测方法， 其特征 在于， 所述 步骤3中， 损失计算公式如下： L＝X·(tanh(M) )′ ‑De(z)·(tanh(M) )′ 其中， L为重构数据中主动缺失部分与原始数据中主动缺失部分之间的损失值， X为原 始数据， De()为Transfor mer中的解码器， z为经过编码器的低维向量， 其为Trans former编 码器捕获到的数据特 征， De(z)为经 过Transformer得到的重构数据。 5.根据权利要求1所述基于Transformer和改进掩码矩阵的风电功率预测方法， 其特征 在于， 所述步骤4， 通过掩码矩阵和位置矩阵， 获取到原始数据中缺 失值的位置， 然后使用在 重构数据中相同位置上的数据， 对原 始数据进行填补。 6.根据权利要求1所述基于Transformer和改进掩码矩阵的风电功率预测方法， 其特征 在于， 所述 步骤4， 插值公式为： Linputed＝X·RELU(tanh(M) )+De(z)·(1‑RELU(tanh(M) )) 其中， Linputed为插补后的数据与原 始数据之间的损失， 其使用了Relu函数和tanh函数。权　利　要　求　书 2/2 页 3 CN 115330026 A 3