首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】大语言模型驱动的桥梁管养领域知识图谱表示学习方法_重庆交通大学;重庆中科云从科技有限公司_202410280050.3 

申请/专利权人:重庆交通大学;重庆中科云从科技有限公司

申请日:2024-03-12

公开(公告)日:2024-06-11

公开(公告)号:CN118170912A

主分类号:G06F16/35

分类号:G06F16/35;G06F16/36;G06F40/295;G06F40/30;G06N3/042;G06Q10/20;G06Q50/08

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.28#实质审查的生效;2024.06.11#公开

摘要:本发明属于智能知识图谱技术领域,尤其涉及一种大语言模型驱动的桥梁管养领域知识图谱表示学习方法。本方法建立在大语言模型的文本编码能力基础之上,结合图神经网络的图结构编码能力,融合本体中丰富的复杂语义信息、异质属性信息、描述文本信息以及图谱中的图结构信息,使得实体和属性的嵌入结果能够包含更加丰富的语义信息,增强其泛化能力,更好的用于领域知识图谱补全等许多下游任务。与现有技术相比,本方法能够在充分考虑知识图谱结构信息的基础上,通过大语言模型利用OWL本体中的复杂语义信息以及文本信息,实现有效处理未见过的实体的和长尾关系,有助于桥梁管养领域知识图谱的自动化维护与补全,减少人力物力的消耗。

主权项:1.大语言模型驱动的桥梁管养领域知识图谱表示学习方法,其特征在于,包括以下步骤:S1、构建表示学习模型,表示学习模型包括串联的大语言模型和图结构编码器;其中,图结构编码器为基于图神经网络的图结构编码器;S2,通过本体映射将OWL本体映射为RDF图;并针对RDF图中的三元组,分别按照预设的多种特定关系进行游走生成多个相应的子图;之后,分别对每个子图按照其对应的特定关系进行游走,并将游走步数设置为超参数,生成用于大语言模型训练的实体序列;S3,将S2生成的实体序列中的实例映射为对应的描述文本,作为大语言模型训练使用的句子训练文档;并使用该句子训练文档,以MLM任务为训练目标对大语言模型进行训练,生成初始文本嵌入;S4、使用S3中大语言模型生成的初始文本嵌入对图结构编码器进行初始化后,使用图结构编码器对整体RDF图进行图结构编码;S5、基于S4的图结构编码结果,分别根据S2中各子图的特定关系设置对应的预测训练任务;并同时使用所有的预测训练任务对表示学习模型进行多任务联合训练,得到最终的嵌入结果。

全文数据:

权利要求:

百度查询: 重庆交通大学;重庆中科云从科技有限公司 大语言模型驱动的桥梁管养领域知识图谱表示学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。