买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:南京工业大学
摘要:本发明涉及一种基于趋势感知注意力和Transformer编码器的锂离子电池健康状态估计方法,解决了传统方法在电池健康状态全局和局部特征捕捉方面的技术问题,具体步骤包括:对锂离子电池数据集进行预处理;构建趋势感知注意力模块,以预处理后的锂离子电池数据集为输入;构建Transformer编码器模块,以趋势感知注意力模块的输出为输入;基于趋势感知注意力模块和Transformer编码器模块进行训练和预测,得到锂离子电池健康状态的估计结果。本发明能够在复杂时序数据条件下同时捕捉全局和局部特征,提高了电池健康状态估计的精度,增加了电池管理系统的稳定性和可靠性。
主权项:1.一种基于趋势感知注意力和Transformer编码器的锂离子电池健康状态估计方法,其特征在于,该方法包括以下步骤:S1、对锂离子电池数据集进行预处理;S2、构建趋势感知注意力模块,以预处理后的锂离子电池数据集为输入;具体包括以下步骤:S21、计算查询Q,键K,值V;以归一化后的锂离子电池容量数据Xnormalized作为趋势感知注意力模块的初始输入,将其通过1×k的卷积层分别生成查询Q,键K,通过1×1的卷积层生成值V,公式表达为: 其中,Conv1×k指卷积核大小为1×k的卷积操作,Conv1×1指卷积核大小为1×1的卷积操作;S22、计算注意力分数矩阵;通过矩阵乘法计算查询Q和键K的转置的缩放点积,再经过Softmax函数归一化,得到注意力分数矩阵A,公式表达为: 其中,Softmax·指Softmax函数归一化,KT指键K的转置,指缩放因子;S23、计算加权和,即将注意力分数矩阵A与值V加权求和,得到趋势感知注意力模块的输出YTAA,其公式表达为:YTAA=AV;即作为趋势感知注意力模块的最终输出,并输入到Transformer编码器模块;S3、构建Transformer编码器模块,以趋势感知注意力模块的输出为输入;所述Transformer编码器模块由L层Transformer编码器堆叠而成,并最后通过一线性层得到最终的输出;每层Transformer编码器内部结构相同,包括多头注意力层、残差连接与归一化层和前馈层;Transformer编码器模块的构建具体包括以下步骤:S31、每一层Transformer编码器之间的数据交流为:以上一层的输出作为本层的初始输入,以本层的输出作为下一层的初始输入;第1层的初始输入为经过位置编码处理的趋势感知注意力模块输出;S32、本层的初始输入先通过多头注意力层;多头注意力层包含n个子头注意力,通过计算查询Q,键K,值V这三个特征之间的关系得到各个子头注意力输出,公式表达为: 其中,headl,i指第l层Transformer编码器的多头注意力层的第i个子头注意力输出,Attention·指子头注意力的映射函数,Hl-1指第l-1层的输出,即第l层的初始输入,指多头注意力层中第i个注意力子头的三个特征的权重矩阵;对各个子头的输出进行拼接,通过线性变换得到包含n个子头的多头注意力层的输出MultiHeadHl-1,公式表示为:MultiHeadHl-1=[headl,1;headl,2;···;headl,n]WO;其中MultiHead·为多头注意力的映射函数,WO为多头注意力的权重矩阵,MultiHeadHl-1为第l层Transformer编码器多头注意力层的输出;再进行残差连接和归一化处理,即先将第l层Transformer编码器多头注意力层的输出MultiHeadHl-1与本层初始输入Hl-1相加后,再进行层归一化LayerNormalization,得到第l层Transformer编码器前馈层的输入H’l,其公式表达为:H′l=LayerNormMultiHeadHl-1+Hl-1;其中,H′l为第l层编码器多头注意力层的输出经过残差连接和归一化后的结果,即第l层Transformer编码器前馈层的输入,LayerNorm·为层归一化操作;S33、H′l经前馈神经网络FFN处理,得到第l层Transformer编码器前馈层的输出FFNH′l,其公式表达为:FFNH′l=ReLUH′lW1+b1W2+b2;其中,FFN·为前馈神经网络的映射函数,ReLU·为前馈层内置的激活函数的映射函数,W1和W2为权重矩阵,b1和b2为偏置项;再进行残差连接和归一化处理,将第l层Transformer编码器前馈层的输出FFNH′l与输入H′l相加,并进行层归一化LayerNormalization,得到第l层Transformer编码器的输出Hl,公式表达为:Hl=LayerNormFFNH′l+H′l;S34、根据Transformer编码器模块的堆叠结构,得到最后一层第L层Transformer编码器的输出HL,再将其通过一个线性层,得到Transformer编码器模块的最终输出结果O,公式表达为:O=W3HL+b3;其中,W3为线性层的权重矩阵,b3为线性层的偏置项;S4、基于趋势感知注意力模块和Transformer编码器模块进行训练和预测,得到锂离子电池健康状态的估计结果。
全文数据:
权利要求:
百度查询: 南京工业大学 一种基于趋势感知注意力和Transformer编码器的锂离子电池健康状态估计方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。