恭喜杭州电子科技大学俞晓锋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜杭州电子科技大学申请的专利一种基于多行为特征增强的注意力序列推荐方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114329218B 。
龙图腾网通过国家知识产权局官网在2025-05-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111670732.8,技术领域涉及:G06F16/9535;该发明授权一种基于多行为特征增强的注意力序列推荐方法是由俞晓锋;樊谨;王则昊;汪炜杰;孙丹枫;邬惠峰设计研发完成,并于2021-12-31向国家知识产权局提交的专利申请。
本一种基于多行为特征增强的注意力序列推荐方法在说明书摘要公布了:本发明公开了一种基于多行为特征增强的注意力序列推荐方法。本发明采用项目交互模式模块和自适应增强的注意力模块,对注意力图进行修正,使得注意力机制更关注符合用户行为规律的局部特征。项目交互模式模块有四种类型的项目交互模式,分别来增强注意力机制对用户行为序列的正反向行为不对称信息、瞬时性信息、连续性信息、非强顺序依赖性信息的感知能力。自适应增强的注意力模块主要有两种增强的结构,单通道结构可以更高效地增强注意力机制,双通道结构则具有更好的推荐性能。自适应增强的注意力模块采用可学习参数对机制可以对局部特征增强程序进行精准的阈值控制。本发明在花费极小的计算开销情况下,提高真实场景下行为序列推荐的准确率。
本发明授权一种基于多行为特征增强的注意力序列推荐方法在权利要求书中公布了:1.一种基于多行为特征增强的注意力序列推荐方法,其特征在于包括以下步骤:步骤1:对选取的公共数据集进行数据预处理,获取用户的行为历史数据序列,然后对用户的行为历史数据序列中的行为按指定比例进行随机Mask;最后通过编码器将所有的行为id映射到行为隐空间,并加入位置嵌入得到隐藏层特征序列;步骤2:通过滑动窗口机制构建符合用户行为规律的项目交互模式;通过滑动窗口机制定义四种符合用户行为规律的项目交互模式;包括单向交互模式、短期交互模式、邻域交互模式、随机交互模式;四种交互模式的公式依次为: 步骤3:利用和为1的可学习参数,将步骤2得到的项目交互模式转换为项目交互矩阵;将步骤2得到的项目交互模式转换为项目交互矩阵;α,β是可学习的而且和为1的参数对,项目交互模式转换为项目交互矩阵的具体原理,公式如下:IIM=α·IIP+β·1-IIPα=sigmiodgα+β=1α,β∈[0,1]其中,IIM是项目交互矩阵,g是一个可学习的参数,α,β为和为1,初始化为0.5的参数对;转换后的四种项目交互矩阵的公式如下: IIM0是单向交互矩阵,IIM1是短期交互矩阵,IIM2是邻域交互矩阵,IIM3是随机交互矩阵;步骤4:利用步骤3得到的项目交互矩阵来构建自适应增强的注意力机制,包括单通道增强的注意力机制和双通道的注意力机制;通过步骤3得到的项目交互矩阵来构建自适应增强的注意力机制;单通道增强的注意力机制整体公式如下所示: 其中Q、K和V分别表示分块经过线性变换后得到的问题矩阵、键值矩阵和数值矩阵;d表示特征维度,AQ,K,V表示传统的注意力机制,AQ,K,Vaub表示自适应增强的注意力机制;双通道增强的注意力机制整体公式如下所示: 其中,AQ,K,Vaub是项目交互模式矩阵增强的注意力机制,是反向项目交互模式矩阵增强的注意力机制;是特征融合函数,AQ,K,Vdaub是双通道增强的注意力机制;步骤5:根据步骤1中的公共数据集类型选择步骤4中的增强的注意力机制类型;具体地说:密集数据集选择单通道注意力机制;稀疏数据集选择双通道注意力机制;利用选定后的自适应增强的注意力机制对步骤1得到的隐藏层特征序列进行特征提取,得到隐藏层特征序列Ⅰ;步骤6:利用若干层的传统变压器对隐藏层特征序列Ⅰ进行进一步的特征提取,得到隐藏层特征序列Ⅱ;根据行为历史数据序列中按指定比例进行随机Mask的部分行为对隐藏层特征序列Ⅱ进行筛选,到对应部分行为的隐藏层特征序列Ⅲ;步骤7:将隐藏层特征序列Ⅲ输入至softmax函数,将交叉熵作为损失函数,并利用adam算法优化行为隐藏空间参数;步骤8:重复步骤2至步骤7,直至步骤7得到的交叉熵损失函数不再减小,则循环结束。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州电子科技大学,其通讯地址为:310018 浙江省杭州市下沙高教园区2号大街;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。