买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：浙江香侬慧语科技有限责任公司

摘要：本申请公开了一种自然语言模型的解释方法、装置及存储介质，属于语言处理技术领域。该方法主要包括：在利用自然语言模型根据给定句子预测输出结果的过程中，获取给定句子中每个词的词高维向量；将给定句子按照预定规则划分为多个文段，并利用每个文段中每个词对应的词高维向量构建与每个文段相应的文段向量；利用每个文段向量，计算相应的文段对自然语言模型预测输出结果贡献度的文段贡献值，并根据每个文段贡献值对相应文段向量进行调整；利用调整后的文段向量计算得到给定句子的句高维向量，利用句高维向量对输出结果进行预测。本申请具有较高的可扩展性，在提高模型解释性的条件下，保证了模型下游任务的良好性。

主权项：1.一种自然语言模型的解释方法，其特征在于，包括：在利用自然语言模型根据给定句子预测输出结果的过程中，获取所述给定句子中每个词的词高维向量表征，其中，所述词高维向量表征反映出每个词在给定句子中的上下文信息，且该高维向量的维度大小是预定的；将所述给定句子按照预定规则划分为多个文段，并利用每个所述文段中每个词对应的所述词高维向量表征构建与每个所述文段相应的文段向量表征，其中，所述利用每个所述文段中每个词对应的所述词高维向量表征构建与每个所述文段相应的文段向量表征的过程包括，将每个所述文段中起始词对应的所述词高维向量表征，每个所述文段中结束词对应的所述词高维向量表征，所述起始词对应的词高维向量表征与所述结束词对应的词高维向量表征的差值，以及所述起始词对应的词高维向量表征与所述结束词对应的词高维向量表征的乘积，进行拼接得到拼接向量；利用所述拼接向量，通过双曲正切函数计算得到每个所述文段相应的文段向量表征；利用每个所述文段向量表征，计算相应的所述文段对所述自然语言模型预测所述输出结果的贡献度的文段贡献值，并根据每个所述文段贡献值对相应所述文段向量表征进行调整，其中，所述利用每个所述文段向量表征，计算相应的所述文段对所述自然语言模型预测所述输出结果的贡献度的文段贡献值的过程包括，利用一个与所述文段向量表征维度相同的预定向量，与所述文段向量表征进行点积计算，得到相应文段的文段贡献值；所述根据每个所述文段贡献值对相应所述文段向量表征进行调整的过程包括，利用每个所述文段贡献值通过归一化计算每个所述文段的文段权重，并利用所述文段权重对相应所述文段向量表征进行加权调整；利用调整后的所述文段向量表征计算得到所述给定句子的句高维向量表征，并利用所述句高维向量表征对所述输出结果进行预测。

全文数据：

权利要求：

百度查询： 浙江香侬慧语科技有限责任公司 一种自然语言模型的解释方法、装置及存储介质