买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜杭州电子科技大学;杭州核新软件技术有限公司申请的专利一种开放域问答下基于KL正则化的检索器预训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114661884B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210408155.3，技术领域涉及：G06F16/3329；该发明授权一种开放域问答下基于KL正则化的检索器预训练方法是由殷昱煜;江艺璇;梁婷婷;陶志伟;胡海胖;李尤慧子;李玉设计研发完成，并于2022-04-19向国家知识产权局提交的专利申请。

本一种开放域问答下基于KL正则化的检索器预训练方法在说明书摘要公布了：本发明公开了一种开放域问答下基于KL正则化的检索器预训练方法。本发明通过使用当前问题重写以及历史问题（可包含答案）和当前问题的拼接这两种形式进行训练，利用KL散度来拉进两种问题形式的检索结果，不仅提高了训练的稳定性，而且提升了问题编码器对问题的语义理解能力。本发明通过引入了困难负样本，即由TF‑IDF检索到但不包含正确答案的文章，提高了检索器的训练效果，使得检索器能在内容相似的一批文章甄别出与当前问题关联更强的文章。

本发明授权一种开放域问答下基于KL正则化的检索器预训练方法在权利要求书中公布了：1.一种开放域问答下基于KL正则化的检索器预训练方法，其特征在于该方法包括以下步骤： 步骤1，构建训练数据： 针对每一个对话问题，给出问题的两者形式，分别为当前问题重写qrw，历史问题和当前问题的拼接qor； 给出对应问题的一篇相关文章p+与一篇不相关文章p-； 步骤2，构建检索器模型： 所述检索器采用双编码器架构，由问题编码器和文章编码器组成； 步骤3，将训练数据集输入检索器进行训练： 同一训练批次的qrw和qor传入问题编码器，将同一训练批次的p+和p-传入文章编码器，其中训练时的损失函数由两部分组成，分别是交叉熵损失和KL散度损失； 步骤4，获取维基百科的页面数据，并得到维基百科文章的向量表示： 步骤5，使用faiss向量检索工具构建维基百科文章的索引； 步骤6，使用问题编码器对对话问题进行编码，根据问题表示向量从faiss向量检索工具中查询到最相关的topK篇文章； 步骤1中当前问题的重写qrw由CANARD数据集提供，当前问题的相关文章包含了该问题的答案，而不相关文章则是由TF-IDF检索到的并且不包含该问题答案的文章，形成该问题对应的困难负样本。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州电子科技大学;杭州核新软件技术有限公司，其通讯地址为：310018 浙江省杭州市下沙高教园区2号大街；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。