买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:浩神科技(北京)有限公司
摘要:本发明公开一种基于元代理技术的语言模型自动化开发方法,涉及模型开发技术领域,所述方法包括:使用大型语言模型作为元代理提前适应待开发模型的任务场景;基于元代理对每个训练样本的置信度对样本进行重新标注;元代理使用标注后的训练样本进行小型语言模型的开发;元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。实现中小型语言模型的自动化开发,且性能接近大型模型,节省人力成本,提高模型开发效率。
主权项:1.一种基于元代理技术的语言模型自动化开发方法,其特征在于,所述方法包括:Step1、使用大型语言模型作为元代理提前适应待开发模型的任务场景;Step2、基于元代理对每个训练样本的置信度对样本进行重新标注;Step3、元代理使用标注后的训练样本进行小型语言模型的开发,并将开发好的小型语言模型投入生产环境;元代理根据任务场景设计一个与自身相似的小型语言模型;基参换算公式表示为:,其中为计算出的小型语言模型的第k个基参值,为元代理第j项环境资源的拥有量,为小型语言模型生产环境的j项环境资源的拥有量,为第j个环境资源对第k个基参的影响权重,为元代理的第k个基参值,j取值1~m,m为环境资源的总项数,不同环境资源对第k个基参的影响权重的估算公式表示为:;使用训练样本对小型语言模型进行模型训练;使用对训练样本的标注数据对小型语言模型进行自适应调优,在达到应用标准后投入到生产环境;Step4、元代理监测小型语言模型在生产环境的性能表现,并定期对小型语言模型进行迭代优化。
全文数据:
权利要求:
百度查询: 浩神科技(北京)有限公司 一种基于元代理技术的语言模型自动化开发方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。