申请/专利权人:华院分析技术(上海)有限公司
申请日:2024-03-12
公开(公告)日:2024-06-07
公开(公告)号:CN118152768A
主分类号:G06F18/21
分类号:G06F18/21;G06N3/045;G16H50/20
优先权:
专利状态码:在审-公开
法律状态:2024.06.07#公开
摘要:本发明提供一种基于大模型的医疗领域模型评估方法及系统,涉及医疗技术领域,包括:设置单轮对话评估场景和多轮对话评估场景;使用GPT‑3.5模拟患者角色与待评估的模型进行单轮对话和多轮对话;针对单轮对话,根据待评估的模型在不同数据集上的表现,评估其准确性,获得评估结果;针对多轮对话,根据待评估的医疗大模型在多轮对话中的表现,评估其主动性、准确性、帮助性和语言质量,并获取综合评分,获得评估结果。本发明一个更接近真实医疗对话环境的评估框架,建立统一和综合的评估标准,减少专家评估的主观性影响,更加全面和客观地评估大型语言模型在医疗领域的应用效能,更好地服务于医疗AI领域。
主权项:1.一种基于大模型的医疗领域模型评估方法,其特征在于,包括:设置单轮对话评估场景和多轮对话评估场景;使用GPT-3.5模拟患者角色与待评估的模型进行单轮对话和多轮对话;针对单轮对话,根据待评估的模型在不同数据集上的表现,评估其准确性,获得评估结果;针对多轮对话,根据待评估的医疗大模型在多轮对话中的表现,评估其主动性、准确性、帮助性和语言质量,并获取综合评分,获得评估结果。
全文数据:
权利要求:
百度查询: 华院分析技术(上海)有限公司 一种基于大模型的医疗领域模型评估方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。