买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：国网湖南省电力有限公司;国网湖南省电力有限公司电力科学研究院;国家电网有限公司;湖南省湘电试验研究院有限公司

摘要：本发明公开了一种基于预训练大语言模型的源荷小样本时序预测方法、系统、装置及存储介质，方法包括：将影响源荷时序序列输出的属性进行分词编码得到时间提示词编码；获取源荷时序数据并可逆实例归一化处理后再划分得到分块Patch；使用标记Token编码的向量查询表对分块Patch进行标记Token编码，对标记Token生成位置编码；将位置编码和标记Token编码相加后与时间提示词编码拼接，将拼接结果输入预训练大语言模型中并进行微调，截去预训练大语言模型输出向量中的时间提示词编码部分后经过输出层处理得到源荷时序预测序列；然后进行逆实例归一化处理得到最终预测结果。本发明满足了源荷预测任务小样本条件下的需求。

主权项：1.一种基于预训练大语言模型的源荷小样本时序预测方法，其特征在于，包括以下步骤：将影响源荷时序序列输出的属性使用预训练大语言模型的分词查询向量表进行分词编码，得到时间提示词编码；获取源荷时序数据，对所述源荷时序数据进行可逆实例归一化处理后进行划分，得到源荷时序数据的不同分块Patch；建立查询向量表并将查询向量表中的分词使用预训练大语言模型的分词查询向量表进行分词编码，得到标记Token编码的向量查询表，使用所述向量查询表对每个分块Patch进行标记Token编码，然后对每个标记Token生成对应的位置编码；将所述位置编码和对应的标记Token编码相加后与所述时间提示词编码进行拼接，然后将拼接结果输入预训练大语言模型中并进行微调，将预训练大语言模型输出向量中的时间提示词编码部分截去后经过输出层处理得到源荷时序预测序列；对所述源荷时序预测序列进行逆实例归一化处理，得到最终预测结果。

全文数据：

权利要求：

百度查询： 国网湖南省电力有限公司 国网湖南省电力有限公司电力科学研究院 国家电网有限公司 湖南省湘电试验研究院有限公司 基于预训练大语言模型的源荷小样本时序预测方法、系统、装置及存储介质