恭喜腾讯科技(深圳)有限公司张宇东获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜腾讯科技(深圳)有限公司申请的专利模型幻觉的检测方法、装置、设备、存储介质和程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118887474B 。
龙图腾网通过国家知识产权局官网在2025-05-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411047436.6,技术领域涉及:G06V10/764;该发明授权模型幻觉的检测方法、装置、设备、存储介质和程序产品是由张宇东;谢若冰;孙兴武;康战辉设计研发完成,并于2024-07-31向国家知识产权局提交的专利申请。
本模型幻觉的检测方法、装置、设备、存储介质和程序产品在说明书摘要公布了:本申请涉及一种模型幻觉的检测方法、装置、设备、存储介质和程序产品。方法包括:获取视觉语言模型对视觉文本对的跨模态注意力,将跨模态注意力划分为有幻觉时的样本注意力或无幻觉时的样本注意力;将样本注意力输入第一阶段幻觉检测器得到第一幻觉检测结果,根据第一幻觉检测结果与样本注意力的注意力类别更新第一阶段幻觉检测器;将注意力类别为有幻觉时的样本注意力继续输入第二阶段幻觉检测器得到第二幻觉检测结果,根据第二幻觉检测结果与样本注意力的样本类别,更新第二阶段幻觉检测器;将第一阶段幻觉检测器与第二阶段幻觉检测器进行级联,得到幻觉检测模型,幻觉检测模型用于对视觉语言模型在进行模型推理时是否发生幻觉进行检测。
本发明授权模型幻觉的检测方法、装置、设备、存储介质和程序产品在权利要求书中公布了:1.一种模型幻觉的检测方法,其特征在于,所述方法包括:获取视觉语言模型对视觉文本对进行模型推理时对所述视觉文本对的视觉令牌的跨模态注意力,根据所述视觉语言模型对所述视觉文本对的推理结果,将所述跨模态注意力划分为有幻觉时的样本注意力或无幻觉时的样本注意力;将所述样本注意力输入第一阶段幻觉检测器,获得所述第一阶段幻觉检测器对所述样本注意力的第一幻觉检测结果,根据所述第一幻觉检测结果与所述样本注意力的注意力类别,更新所述第一阶段幻觉检测器;从输入到所述第一阶段幻觉检测器的样本注意力中,筛选出注意力类别为有幻觉时的样本注意力,继续输入第二阶段幻觉检测器,获得所述第二阶段幻觉检测器对所述样本注意力的第二幻觉检测结果,根据所述第二幻觉检测结果与所述样本注意力的注意力类别,更新所述第二阶段幻觉检测器;将训练完成后得到的第一阶段幻觉检测器与第二阶段幻觉检测器进行级联,得到幻觉检测模型,所述幻觉检测模型用于对所述视觉语言模型在进行模型推理时是否发生幻觉进行检测。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人腾讯科技(深圳)有限公司,其通讯地址为:518057 广东省深圳市南山区高新区科技中一路腾讯大厦35层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。