申请/专利权人：哈尔滨工业大学

申请日：2023-06-27

公开（公告）日：2024-06-28

公开（公告）号：CN116842398B

主分类号：G06F18/22

分类号：G06F18/22;G06N3/0499;G06N3/048;G06N3/0464;G06F18/25;G06N3/0455

优先权：

专利状态码：有效-授权

法律状态：2024.06.28#授权;2023.10.24#实质审查的生效;2023.10.03#公开

摘要：本发明公开了一种基于屏蔽自注意力网络的话题感知信息转发预测方法及系统，涉及信息转发预测技术领域。本发明的技术要点包括：提取消息中的话题表示，将话题表示与用户嵌入进行融合表示，获得用户‑话题依赖表示；构建包含上下文编码器、掩码生成器、掩码编码器的屏蔽自注意力网络，将用户‑话题依赖表示输入屏蔽自注意力网络，获得上下文用户依赖感知的用户表示；利用注意力机制计算目标用户与历史感染用户列表的相似度，以对用户表示进行优化重建；通过计算对应优化重建后用户表示的级联表示与下一个用户之间的似然关系来获取下一个用户的激活概率。本发明可为舆情研判、个性化推荐、热点话题识别等应用提供有价值的决策辅助支撑。

主权项：1.一种基于屏蔽自注意力网络的话题感知信息转发预测方法，其特征在于，包括以下步骤：步骤一、用户-话题依赖建模，包括：提取消息中的话题表示，将话题表示与用户嵌入进行融合表示，获得用户-话题依赖表示；所述话题表示为Dti，所述用户嵌入表示为则用户-话题依赖表示按照如下公式计算获得： 式中，表示用户在第h个话题下的权重表示，所述权重表示通过计算用户嵌入与话题表示Dti之间的相似度来获取；步骤二、用户-上下文依赖建模，包括：构建包含上下文编码器、掩码生成器、掩码编码器的屏蔽自注意力网络，将所述用户-话题依赖表示输入所述屏蔽自注意力网络，获得上下文用户依赖感知的用户表示；所述上下文编码器用于对用户-话题依赖表示进行编码，其包括多个相同层组成的堆栈，每一层由全连接前馈网络和多头自注意层组成；其中，多头注意力层由多个经过线性空间的点积放缩注意力机制进行拼接获得；所述掩码生成器用于根据上下文编码器输出的上下文用户列表和目标用户生成掩码矩阵；所述掩码编码器用于根据所述掩码矩阵对每一层输入进行相乘，生成上下文用户依赖感知的用户表示；步骤三、用户-传播历史依赖建模，包括：利用注意力机制计算目标用户与历史感染用户列表的相似度，以对所述上下文用户依赖感知的用户表示进行优化重建；具体步骤包括：计算目标用户对应的上下文用户依赖感知的用户表示与历史感染用户的注意力分数；根据注意力分数计算获得二者的注意力权重引入时间衰减因子，将连续时间分成离散的时间间隔，为每一个时间间隔分配一个可学习权重将所述注意力权重和所述可学习权重相加获得历史感染用户权重根据所述历史感染用户权重获得优化重建后的用户表示为： 式中，表示上下文用户依赖感知的用户表示；表示上下文用户依赖感知的历史感染用户；步骤四、下一个用户激活状态预测，包括：通过计算对应优化重建后用户表示的级联表示Ci与下一个用户之间的似然关系来获取下一个用户的激活概率；其中，所述级联表示Ci＝{u1,t1,u2,t2,…,ym,ym}表示已观测的受影响用户序列。

全文数据：

权利要求：

百度查询： 哈尔滨工业大学 一种基于屏蔽自注意力网络的话题感知信息转发预测方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD