申请/专利权人：重庆理工大学

申请日：2023-07-20

公开（公告）日：2024-04-16

公开（公告）号：CN116955846B

主分类号：G06F16/9536

分类号：G06F16/9536;G06Q50/00;G06F18/25;G06F18/24;G06F18/23;G06N3/042;G06N3/0464;G06N3/048;G06N3/08

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2023.11.14#实质审查的生效;2023.10.27#公开

摘要：本发明公开了一种融合主题特征和交叉注意力的级联信息传播预测方法，包括如下步骤：S1，根据级联信息间的差异性进行不同主题特征的划分，并对不同主题特征进行特征提取；S2，根据交叉注意力机制融合用户表示和级联表示以学习特征表达；S3，得到预测结果。本发明根据级联信息之间的异同，并且进行区分处理，提取不同信息的主特征值，使得更好预测信息级联扩散。

主权项：1.一种融合主题特征和交叉注意力的级联信息传播预测方法，其特征在于，包括如下步骤：S1，根据级联信息间的差异性进行不同主题特征的划分，并对不同主题特征进行特征提取；S2，根据交叉注意力机制融合用户表示和级联表示以学习特征表达；根据交叉注意力机制融合用户表示和级联表示以学习特征表达的方法包括以下步骤：S21，对用户表示Zm和级联表达Dm进行注意力计算，学习内在特征，具体公式如下： 其中，Att表示注意力机制；softmax表示可以将一组数值转换为表示各个选项概率的分布的映射函数；Q,K,V分别表示公式14的三个参数；KT表示K的转置矩阵；d是embedding的维度；H*是多头注意力的头数；Mmask表示mask矩阵掩盖之前已经被激活的用户节点；hi＝AttZmWiQ,ZmWiK,ZmWiV，………14其中，hi表示多头注意力中的第i头；Att表示注意力计算机制；Zm表示在级联信息cm中查询到的用户表示；WiQ为可学习的第一转换矩阵；WiK为可学习的第二转换矩阵；WiV为可学习的第三转换矩阵； h表示最终通过注意力机制学习到的特征表示；[]表示拼接操作；H*是多头注意力的头数；WO为可学习的第四转换矩阵；Z′m＝σhW5+b1W6+b2，………16其中，Z′m表示经过拼接学习后的用户表达；σ表示RelU激活函数；h表示通过注意力机制学习到的特征表示；W5表示可学习的第五转换矩阵；b1表示第一偏置参数；W6表示可学习的第六转换矩阵；b2表示第二偏置参数；S22，对用户表示Zm和级联表达Dm进行交叉注意力计算，互相学习特征，具体公式如下： 其中，hi表示多头注意力中的第i头；Att表示单个头中Attention机制算法；Zm表示在级联信息cm中查询到的用户表示； 表示第i头中的转换矩阵，用以将特征转换为相应的Q值；Dm表示融合主题特征之后的级联表达； 表示第i头中的转换矩阵，用以将特征转换为相应的K值； 表示第i头中的转换矩阵，用以将特征转换为相应的V值；S23，将经过交叉注意力机制进行自学习之后的Z″m和D″m特征通过门控机制融合，具体公式如下： 其中，Pm表示融合后的特征表示； 表示一个[0-1]的权重系数；D″m表示交叉注意力机制进行自学习所得的级联表示；Z″m表示交叉注意力机制进行自学习所得的用户表示；S3，得到预测结果。

全文数据：

权利要求：

百度查询： 重庆理工大学 融合主题特征和交叉注意力的级联信息传播预测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD