首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于预训练语言模型的融合图结构的知识图谱表示学习方法_哈尔滨理工大学_202311762909.6 

申请/专利权人:哈尔滨理工大学

申请日:2023-12-20

公开(公告)日:2024-06-18

公开(公告)号:CN118210927A

主分类号:G06F16/36

分类号:G06F16/36;G06F16/901;G06N3/0442;G06N3/0455;G06N3/08;G06F40/30;G06F18/25

优先权:

专利状态码:在审-公开

法律状态:2024.06.18#公开

摘要:本发明专利公开了一种基于预训练语言模型的融合图结构信息的知识表示学习方法。该方法旨在改进知识图谱补全任务的精确度,通过融合丰富的语义信息、图结构信息和三元组结构信息,提升模型对于复杂图结构预测能力。首先通过预训练语言模型将知识图谱中的实体、关系和三元组映射为自然语言的向量表示,然后结合图结构中的环状结构和星型结构,使用注意力机制融合实体之间的图结构信息。最后通过多任务学习策略学习三元组结构以及三元组语义信息,提高了知识图谱补全的准确性。此专利的创新性在于融合了预训练语言模型和图结构信息,具有更强的扩展性和更好的效果,可应用于链接预测和知识图谱补全。

主权项:1.一种基于预训练语言模型的融合图结构的知识图谱表示学习方法,其特征在于,所述方法步骤包括:步骤1、利用预训练语言模型的强大文本语义学习能力以及自身丰富的语义信息,使用Bert模型作为编码器,将知识图谱中的实体和关系映射为向量表示,学习三元组语义信息;步骤2、引入图注意力网络,根据三元组(h,r,t)的嵌入向量生成注意力权重,然后分别学习环状结构和星型结构的图结构信息,得到聚合结构信息的实体嵌入向量;步骤3、通过权重参数整合嵌入向量实体特征,然后使用多任务学习策略进行训练,基于结构信息和语义信息计算计算得分函数,用于计算最终的损失。

全文数据:

权利要求:

百度查询: 哈尔滨理工大学 一种基于预训练语言模型的融合图结构的知识图谱表示学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。