买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：吉林农业大学

摘要：本发明提出针对中国农业问答平台问句短文本分类方法、设备及介质。属于数据分类技术领域。所述方法包括以下步骤：步骤一、建立农业领域问句短文本数据库；步骤二、构建短文本分类模型，并利用数据库对短文本分类模型进行训练；步骤三、利用训练好的短文本分类模型实现农业问句短文本分类，通过全连接的方式连接到softmax层，对融合后的包含多样化信息的值进行归一化，完成多个类别的农业问句的短文本分类。所述方法提高了结果的准确性，模型的泛化能力显著增强。

主权项：1.一种针对中国农业问答平台问句短文本的分类方法，其特征在于，所述方法包括以下步骤：步骤一、建立农业领域问句短文本数据库；步骤二、构建短文本分类模型，并利用数据库对短文本分类模型进行训练；所述短文本分类模型采用预训练语言模型ERNIE结合多尺度卷积CNNs模型的形式，具体为：使用预训练语言模型ERNIE作为嵌入层和编码层，通过嵌入层获得文本数据的上下文相关的动态单词嵌入信息，包括标记嵌入、段嵌入和位置嵌入信息；将得到的嵌入信息提取传输到TransformerEncoder部分，对嵌入后的全局语义信息提取出其最后三层编码层的输出结果进行重构，作为最终输出的文本向量，传给多尺度CNNs卷积层进行特征提取，在多尺度卷积神经网络中不同位置添加通道注意力ECANet，并通过不同尺度的卷积核对句子的局部语义信息进行特征向量的提取；步骤三、利用训练好的短文本分类模型实现农业问句短文本分类，通过全连接的方式连接到softmax层，对融合后的包含多样化信息的值进行归一化，完成多个类别的农业问句的短文本分类；ERNIE的词向量表示方法采用基于上下文的词向量表示方法，即对于一个词汇，将其上下文信息考虑在内；首先，将句子输入到分类模型中后，对于输入句子的每个嵌入层，在句子的开头将[CLS]标记用作分类标记，并在句子的末尾添加标记[SEP]；将标记好的句子输入到嵌入层，以获得句子的语义表示，这些句子由标记嵌入、段嵌入和位置嵌入组成；标记嵌入部分提供了每个单词的嵌入表示，并且段嵌入用于嵌入全局语义输入文本的信息，并与标记嵌入相融合，位置嵌入用于区分不同位置词向量；将三个嵌入部分求和得到的嵌入信息作为整个嵌入层的输出；预训练语言模型ERNIE共有12个编码层，将最后一层的结果结合前两层的输出进行一次类残差方式的叠加重构，完成整个编码层的计算，重构输出语义信息效果的文本向量表示作为预训练语言模型编码层最终的词向量表示，将其作为多尺度CNNs卷积层的输入进行特征提取；类残差方式的叠加重构公式为：Hx＝Fx+Gx+Rx；其中x为输入,Fx表示经过第十层的变换后的输出，Gx表示经过第十一层的变换后的输出，Rx表示经过第十二层的变换后的输出，Hx为经过类残差重构后的第十二层最后输出，作为最终向量结果。

全文数据：

权利要求：

百度查询： 吉林农业大学 针对中国农业问答平台问句短文本分类方法、设备及介质