买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：广东外语外贸大学

摘要：本发明公开了一种基于神经网络模型的药品不良事件检测方法及系统，涉及自然语言处理和文本挖掘技术领域，采用了多层方法，包括预训练语言模型BioBERT、树结构的神经网络模型Tree‑Transformer和自定义多头注意力机制，并结合了词性标注矩阵和依存关系矩阵，增强模型对药物不良反应的理解，使其具有多功能性和强健性，能够有效捕获更复杂的语言模式，显著提高了药物不良反应检测的准确性和鲁棒性。

主权项：1.一种基于神经网络模型的药品不良事件检测方法，其特征在于，包括以下步骤：S1：采集待检测的生物医学文本，并进行预处理，获得词性标签矩阵、依存关系矩阵和实体跨度信息；S2：使用预训练语言模型对所述生物医学文本和所述实体跨度信息进行词嵌入，获得隐层表示和编码跨度向量；并初始化树结构神经网络模型的权值；S2中对所述生物医学文本中的单词序列和所述实体跨度信息进行词嵌入的具体内容为：S21：使用预训练语言模型对所述生物医学文本进行深度词嵌入，表示为：H＝BioBERTTokens，其中，H为所述预训练语言模型的隐层表示，Tokens表示经过预处理后的所述生物医学文本中的单词序列，BioBERT表示预训练语言模型；S22：选择所述生物医学文本中的实体，提取其在所述生物医学文本中对应的跨度信息，并进行词嵌入处理，表示为：Span'＝BioBERTSpan，其中，Span是实体跨度信息，Span’是编码跨度向量；S23：初始化树结构神经网络模型Tree-Transformer的权值；S3：根据所述词性标签矩阵、所述依存关系矩阵和所述隐层表示，利用所述树结构神经网络模型的注意力机制和自定义多头注意力机制，获得输出特征表示和句法树；S4：通过所述预训练语言模型和所述树结构神经网络模型的注意力机制根据所述句法树生成句法结构信息，并使用图卷积神经网络获得树结构特征表示，根据所述编码跨度向量和所述输出特征表示获得实体特征表示；S5：根据所述输出特征表示、所述实体特征表示和所述树结构特征表示预测实体和关系，输出实体关系联合检测结果；S5中预测实体和关系的具体步骤为：S51：在实体识别层根据所述输出特征表示、所述树结构特征表示和所述实体特征表示来预测每个实体的实体类别，表示为： 其中，表示特征的拼接；E表示所述输出特征表示；E’表示所述树结构特征表示；S表示所述实体特征表示；Entity_Classifier表示全连接层；entity_logits表示实体类别概率分布；S52：根据所述输出特征表示和所述树结构特征表示来预测实体之间的关系，表示为： 其中，Relation_Classifier表示全连接层；relation_logits表示实体对间关系概率分布；S53：将所述实体类别概率分布和所述实体对间关系概率分布作为预测的输出，表示为：output＝entity_logits,relation_logitsoutput表示实体关系联合检测结果。

全文数据：

权利要求：

百度查询： 广东外语外贸大学 一种基于神经网络模型的药品不良事件检测方法及系统