买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中汽智联技术有限公司

摘要：本发明公开了一种针对非结构化车型数据的知识联合抽取方法、系统、存储介质和设备，属于汽车数据处理领域，通过对非结构化的车型数据进行预处理；确定车型数据中需要抽取的实体类型；利用BERT模型对输入文本进行学习词嵌入，将输入文本信息转化为高维度的向量信息；利用CRF模型对BERT输出的高维向量进行序列标注，将输入文本中的头实体和尾实体标注出来，以捕捉实体之间的依赖关系，并得到最优的实体序列标签；将序列标注得到的实体对替换为对应的实体类型，获得实体关联表示向量M；将实体关联表示向量M输入GRU神经网络进行关系分类。本方法对实体的识别准确率达到95%，关系识别准确率达到85%。

主权项：1.一种针对非结构化车型数据的知识联合抽取方法，其特征在于，该方法包括如下步骤：S1、对非结构化的车型数据进行预处理；S2、确定车型数据中需要抽取的实体类型；S3、使用已标注好的车型数据作为训练集，对BERT模型进行优化；S4、利用BERT模型对输入文本进行学习词嵌入，将输入文本信息转化为高维度的向量信息；S5、利用CRF模型对BERT输出的高维向量进行序列标注，将输入文本中的头实体和尾实体标注出来，以捕捉实体之间的依赖关系，并得到最优的实体序列标签；S6、将序列标注得到的实体对替换为对应的实体类型，并再次输入BERT模型进行向量学习，获得实体关联表示向量M；S7、将实体关联表示向量M输入GRU神经网络进行关系分类；S8、将抽取得到的实体和关系信息整合到一个知识库中，构建车型知识图谱，用于查询、分析和展示车型的相关知识；其中，在S4中，所述文本信息为车辆控制流信息文本；将输入文本信息转化为高维度的向量信息包括：S40、BERT文本表示层将控制流信息文本输出为512维的向量，控制流信息语句，其中表示语句的第i个字符：S41、控制流信息语句L分别转换为对应的三个向量：词向量、分段向量以及位置向量；S42、将所述词向量、所述分段向量、所述位置向量相加，获得和向量；S43、将所述和向量输入BERT模型，经编码与解码后输出隐藏状态向量；利用CRF模型对BERT输出的高维向量进行序列标注包括：S51：根据计算模型获取输入向量序列得到预测序列的总得分，计算模型为： 其中，D表示转移矩阵，表示转移矩阵中标签由yi转移到yi+1的得分； 表示第i个字符被预测为yi标签的得分；H表示输入观测序列，即和向量，Y表示对应的输出标记序列或状态序列，n为正整数；S52、计算输入向量序列转化为预测序列的概率： Yh表示所有预测序列；所述GRU模型控制包括： 其中，mt表示t时刻的输入向量，zt表示更新门，rt表示重置门，ht表示隐层状态，表示向量相乘的sigmoid函数；·表示点积运算，表示矩阵乘积运算，Wi，Wr，Wc表示权重矩阵；为修正系数；其中sigmoid函数为。

全文数据：

权利要求：

百度查询： 中汽智联技术有限公司 一种针对非结构化车型数据的知识联合抽取方法、系统、存储介质和设备