申请/专利权人：重庆邮电大学

申请日：2022-06-24

公开（公告）日：2024-06-28

公开（公告）号：CN115114932B

主分类号：G06F40/30

分类号：G06F40/30;G06F40/289;G06F40/211;G06N3/048;G06N3/0455;G06N3/08

优先权：

专利状态码：有效-授权

法律状态：2024.06.28#授权;2022.10.18#实质审查的生效;2022.09.27#公开

摘要：本发明涉及一种基于关键词的多粒度中文短文本匹配方法，属于自然语言处理领域，包括以下步骤：S1：将句子分为字和词两个粒度，将两个粒度的句子统一填充到长度N，在对应数据集上训练Word2Vec，获得字和词两个粒度的嵌入表示；S2：用两个BiGRU对句子向量进行编码，获得句子两个方向的上下文信息；S3：用交叉注意力获得字粒度特征和词粒度特征之间的关联，再对其及逆行平均池化并连接获得句子最终的表示向量；S4：连接两句子的词粒度嵌入向量，用11层Transformer编码器和一层关注关键词的Transformer进行编码；S5：连接关键词特征和两句子的表示向量作为最终的预测向量。

主权项：1.一种基于关键词的多粒度中文短文本匹配方法，其特征在于：包括以下步骤：S1：多粒度词嵌入：将句子分为字和词两个粒度，将两个粒度的句子统一填充到长度N，在对应数据集上训练Word2Vec，获得字和词两个粒度的嵌入表示S2：上下文编码：用两个BiGRU对句子向量进行编码，获得句子两个方向的上下文信息；S3：句子特征融合：用交叉注意力获得字粒度特征和词粒度特征之间的关联，再对其及逆行平均池化并连接获得句子最终的表示向量；S4：关键词特征提取：连接两句子的词粒度嵌入向量，用11层Transformer编码器和一层关注关键词的Transformer进行编码；所述关注关键词的Transformer是指在Transformer的自注意力层中，句子一对句子二做注意力操作时只关注句子二的关键词，反之亦然；S5：特征融合：连接关键词特征和两句子的表示向量作为最终的预测向量；步骤S1中，通过词粒度信息提取模块和字粒度信息提取模块进行；词粒度信息提取模块先将中文句子切分为基于词语的句子表示，再将句子填充到相同的长度N；通过在目标数据集上训练Word2Vec获得词语级别的嵌入向量；字粒度信息提取模块先将中文句子切分为基于字的句子表示，再将句子填充到相同的长度N；通过在目标数据集上训练Word2Vec获得字粒度的嵌入向量；步骤S2中，获得句子两个方向的上下文信息，具体通过以下方式计算： 其中，表示句子一字粒度的上下文表示向量，表示句子一字粒度的嵌入向量；句子一词粒度的上下文表示向量句子二字粒度的上下文表示向量句子二词粒度的上下文表示向量也用同样的方式计算；步骤S3具体通过以下方式计算： 其中，S1表示句子一的最终表示向量；句子二的最终表示向量S2也用同样的方式计算。

全文数据：

权利要求：

百度查询： 重庆邮电大学 一种基于关键词的多粒度中文短文本匹配方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD