申请/专利权人：平安科技(深圳)有限公司

申请日：2021-10-29

公开（公告）日：2024-06-28

公开（公告）号：CN113971408B

主分类号：G06F40/35

分类号：G06F40/35;G06F40/284;G06F18/25;G06N3/0442;G06N3/0455;G06N3/084

优先权：

专利状态码：有效-授权

法律状态：2024.06.28#授权;2022.02.15#实质审查的生效;2022.01.25#公开

摘要：本发明涉及人工智能技术领域，尤其涉及一种基于双向注意力机制的智能问答方法、装置、设备及介质。本发明利用第一双向LSTM编码层分别对文本和问题进行编码分别得到文本语义特征向量和问题语义特征向量，再将文本语义特征向量和问题语义特征向量进行充分交互得到文本与问题的综合交互矩阵，再将综合交互矩阵输入至双向LSTM模型输出答案，通过上述方式，充分挖掘了文本和问题的上下文信息以及文本与问题的交互特征，丰富了文本及问题的语义表征，有利于提高智能问答的准确性。并且，本发明利用双向LSTM模型采用阅读理解的方式进行智能问答，在各文本中自动获取问题的答案，无需依赖语料库中的固定语料。

主权项：1.一种基于双向注意力机制的智能问答方法，其特征在于，包括：对文本和问题中的句子分别进行分词处理，得到所述文本对应的文本分词序列以及所述问题对应的问题分词序列；对所述文本分词序列和所述问题分词序列分别进行词向量化处理，得到所述文本分词序列对应的文本初始特征向量以及所述问题分词序列对应的问题初始特征向量；利用第一双向LSTM编码层对所述文本初始特征向量和所述问题初始特征向量进行语义编码，分别得到文本语义特征向量和问题语义特征向量；将所述文本语义特征向量的转置向量与所述问题语义特征向量相乘得到第一交互矩阵，将所述第一交互矩阵的每个元素进行softmax函数计算得到对应的第二交互矩阵；将所述第一交互矩阵和所述第二交互矩阵进行拼接，获得综合交互矩阵；将所述综合交互矩阵输入至双向LSTM模型中，对答案在所述文本中的初始位置和终止位置进行预测，其中，所述双向LSTM模型输出第一概率特征向量和第二概率特征向量，所述第一概率特征向量包括所述文本中每个所述分词是答案的起始位置的概率，所述第二概率特征向量包括所述文本中每个所述分词是答案的终止位置的概率，将所述第一概率特征向量中概率最大的分词作为所述答案的起始位置，将所述第二概率特征向量中概率最大的分词作为所述答案的终止位置；所述对所述文本分词序列和所述问题分词序列分别进行词向量化处理，得到所述文本分词序列对应的文本初始特征向量以及所述问题分词序列对应的问题初始特征向量之后，还包括：基于预设的外部知识库对所述文本分词序列和所述问题分词序列分别进行词向量化处理，获取所述文本基于词的文本知识特征向量以及所述问题基于词的问题知识特征向量；将所述文本的所述文本语义特征向量和所述文本知识特征向量进行特征融合，得到文本融合特征向量；将所述问题的所述问题语义特征向量和所述问题知识特征向量进行特征融合，得到问题融合特征向量；相应地，所述将所述文本语义特征向量的转置向量与所述问题语义特征向量相乘得到第一交互矩阵，将所述第一交互矩阵的每个元素进行softmax函数计算得到对应的第二交互矩阵，包括：将所述文本融合特征向量的转置向量与所述问题融合特征向量相乘得到第一交互矩阵，将所述第一交互矩阵的每个元素进行softmax函数计算得到对应的第二交互矩阵；所述利用第一双向LSTM编码层对所述文本初始特征向量和所述问题初始特征向量进行语义编码，分别得到文本语义特征向量和问题语义特征向量之后，还包括：根据所述问题知识特征向量和所述文本知识特征向量计算所述问题中每个分词与所述文本中每个分词的相似度，得到相似度矩阵；根据所述相似度矩阵计算文本对问题的第一注意力权重矩阵以及问题对文本的第二注意力权重矩阵，其中，所述第一注意力权重矩阵包括文本中每个分词对于所述问题的注意力权重，所述第二注意力权重矩阵包括问题中每个分词对于所述文本的注意力权重；根据所述第一注意力权重矩阵对所述问题语义特征向量进行注意力权重处理，得到调整后的所述问题语义特征向量；根据所述第二注意力权重矩阵对所述文本语义特征向量进行注意力权重处理，得到调整后的所述文本语义特征向量。

全文数据：

权利要求：

百度查询： 平安科技(深圳)有限公司 基于双向注意力机制的智能问答方法、装置、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD