龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：军工保密资格审查认证中心
摘要：本公开提供一种基于去偏域抽象的预训练模型微调方法、装置和设备，包括：获取下游任务数据集，下游任务数据集中包括样本训练集、样本验证集和样本测试集；基于样本训练集和预训练模型确定去偏域抽象表征，基于预设去偏提示词、去偏域抽象表征以及样本训练集确定提示学习训练集；基于提示学习训练集对预训练模型进行微调；基于提示学习验证集对预训练模型进行评估调整；基于提示学习测试集对预训练模型进行模型测试。从而结合预训练模型与下游任务相关知识域的实际分布，通过去偏的方式近似下游任务的完整目标域，以完整目标域作为提示为预训练模型提供无歧义指导，使得微调后的预训练模型与下游任务具有较强的关联性，能够有效执行相应任务处理。
主权项：1.一种基于去偏域抽象的预训练模型微调方法，其特征在于，包括：获取下游任务数据集，所述下游任务数据集中包括：样本训练集、样本验证集和样本测试集，所述样本训练集中包括：第一任务数据和所述第一任务数据对应的第一任务标签，所述样本验证集中包括：第二任务数据和所述第二任务数据对应的第二任务标签，所述样本测试集中包括：第三任务数据和所述第三任务数据对应的第三任务标签；基于所述样本训练集和预训练模型，确定所述下游任务对应于去偏知识域的去偏域抽象表征，所述预训练模型与所述下游任务相对应，所述去偏知识域基于所述下游任务所对应原始知识域的去偏真实分布数据确定得出；基于预设去偏提示词、所述去偏域抽象表征以及所述样本训练集，确定所述下游任务对应的提示学习训练集，所述提示学习训练集中包括：提示学习训练数据和所述提示学习训练数据对应的学习标签，所述提示学习训练数据用于描述所述第一任务数据和所述第一任务数据对应的辅助提示词，所述提示学习训练数据对应的学习标签对应于所述第一任务数据对应的第一任务标签；基于所述提示学习训练集，对所述预训练模型进行微调；基于由所述样本验证集得到的提示学习验证集，对所述预训练模型进行评估调整，以对所述预训练模型进行模型优化；基于由所述样本测试集得到的提示学习测试集，对所述预训练模型进行模型测试，以得到满足任务准确率要求的预训练模型。
全文数据：
权利要求：
百度查询： 军工保密资格审查认证中心 基于去偏域抽象的预训练模型微调方法、装置和设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号