申请/专利权人：国网安徽省电力有限公司营销服务中心;国网安徽省电力有限公司肥东县供电公司;国网安徽省电力有限公司颖上县供电公司;国网安徽省电力有限公司芜湖供电公司;国网安徽省电力有限公司六安市叶集供电公司;国网安徽省电力有限公司铜陵市义安区供电公司;国网安徽省电力有限公司歙县供电公司;国网安徽省电力有限公司滁州供电公司;北京清软创新科技股份有限公司

申请日：2024-01-25

公开（公告）日：2024-05-03

公开（公告）号：CN117974355A

主分类号：G06Q50/06

分类号：G06Q50/06;G06Q10/04;G06N3/0442;G06N3/08;G06N20/20

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.05.28#实质审查的生效;2024.05.03#公开

摘要：本发明属于电量统计技术领域，具体为一种基于自注意力神经网络的月度用电量预测算法，该月度用电量预测算法的步骤流程如下：第一步、数据预处理：在开展预测工作之前，对输入数据进行归一化处理，完成输入数据的归一化后，将归一化结果输入自注意力神经网络进行训练，本申请提出了一种月度用电量预测模型，解决了用电量预测模型中考虑社会数据时气象数据量大、特征复杂的问题，基于自注意力神经网络，有效解决了长期时间序列预测困难的问题，并提供了一个堆叠框架，以提高预测精度和模型泛化能力。

主权项：1.一种基于自注意力神经网络的月度用电量预测算法，其特征在于，该月度用电量预测算法的步骤流程如下：第一步、数据预处理：在开展预测工作之前，对输入数据进行归一化处理，完成输入数据的归一化后，将归一化结果输入自注意力神经网络进行训练；第二步、自注意力神经网络：该自注意力神经网络包括缩放点积注意力神经网络和多头注意力神经网络；所述缩放点积注意力神经网络特征包括Q、K和V可视为输入数据，模型首先需要计算Q和K之间的相关性，以获得V的权重，然后，根据权重对V进行加权求和，下一步，进行屏蔽，这一步将对指定位置的输入数据设置为0，屏蔽后，对未设置为0的数据执行Softmax标准化，最后，将计算结果F作为V的权重，对V进行加权求和，得到输出值；多头注意力神经网络中的多头指的是有多个缩放点积注意力神经网络，将相同的Q、K和V输入多个缩放点积注意力神经网络，将多个缩放点积注意力神经网络的输出结果拼接起来，将拼接后的输出结果通过线性神经网络形成最终预测结果；第三步、基于模型堆叠的用电量预测模型：自注意力神经网络很好地解决了长时间跨度数据分析困难的问题，但使用单一算法进行预测的泛化能力较差，使用多个模型进行堆叠可以有效解决这一不足，同时，自注意力模型提取的时序特征可以用来丰富其他模型的输入数据，提高其准确性，堆叠是一种将多个模型的输出结果以某种形式整合起来以产生更好结果的结构；将时序数据T和自注意力神经网络的计算结果F合并，得到新的输入数据，将新的输入数据用于训练RNN和LSTM模型，并从这两个模型中得到用电量预测值P1和P2，将P1和P2与自注意力模型得到的预测结果P3合并，并输入XGBoost模型，将XGBoost模型的预测结果作为最终结果，使用RNN模型和LSTM模型是因为这两种模型在长期时间序列预测问题上都表现出了良好的预测精度，选择使用XGBoost来整合多个模型的预测结果；第四步、算例分析：评价指标：为了比较分析不同模型之间的差异，评估本专利所设计的模型，将采取预测精度评价指标来分析模型，本专利采用的指标有两个，即RMSE和MAPE；实验环境和模型参数：为了提高用电量预测的准确性，有必要选择合适的训练参数，本专利需要调整的参数包括批量大小、时期、学习率、神经网络层数和训练器；预测结果分析：为验证本专利提出的算法的有效性，本专利所应用模型的预测结果与其他独立使用自注意力神经网络模型、LSTM模型和RNN模型的预测结果进行了比较。

全文数据：

权利要求：

百度查询： 国网安徽省电力有限公司营销服务中心;国网安徽省电力有限公司肥东县供电公司;国网安徽省电力有限公司颖上县供电公司;国网安徽省电力有限公司芜湖供电公司;国网安徽省电力有限公司六安市叶集供电公司;国网安徽省电力有限公司铜陵市义安区供电公司;国网安徽省电力有限公司歙县供电公司;国网安徽省电力有限公司滁州供电公司;北京清软创新科技股份有限公司 一种基于自注意力神经网络的月度用电量预测算法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD