买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京市科学技术研究院申请的专利一种基于自适应激活缩放适配的大语言模型多任务学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119539004B 。

龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411591529.5，技术领域涉及：G06N3/08；该发明授权一种基于自适应激活缩放适配的大语言模型多任务学习方法是由贾倪;张莹;刘彤设计研发完成，并于2024-11-08向国家知识产权局提交的专利申请。

本一种基于自适应激活缩放适配的大语言模型多任务学习方法在说明书摘要公布了：本发明公开一种基于自适应激活缩放适配的大语言模型多任务学习方法，属于大语言模型技术领域。所述方法包括：构建模型；初始化各任务k的可学习激活缩放适配向量；构造多任务联合微调训练数据集；利用多任务联合微调训练数据集进行LoRA模块参数、多任务融合缩放网络参数和可学习激活缩放适配向量的优化，以生成训练后的模型。本发明缓解不同任务之间的跷跷板问题，并实现使用有限的资源高效地多任务学习和优化。

本发明授权一种基于自适应激活缩放适配的大语言模型多任务学习方法在权利要求书中公布了：1.一种基于自适应激活缩放适配的大语言模型多任务学习方法，其特征在于，所述方法应用于自然语言处理任务，包括：构建模型，所述模型包括：大语言基座模型、LoRA模块和多任务融合缩放网络，所述大语言基座模型包括注意力模块和前馈神经网络，所述LoRA模块被引入到所述注意力模块的查询线性变换矩阵、键线性变换矩阵和值线性变换矩阵中，所述多任务融合缩放网络用于根据所述模型的输入计算一缩放因子，所述多任务融合缩放网络的结构包括：N层线性变换、非线性激活和Dropout；初始化各任务k的可学习激活缩放适配向量lk；其中，所述可学习激活缩放适配向量lk包括：前馈网络的可学习激活缩放适配向量注意力值的可学习激活缩放适配向量和注意力键的可学习激活缩放适配向量构造多任务联合微调训练数据集；利用所述多任务联合微调训练数据集进行LoRA模块参数、多任务融合缩放网络参数和所述可学习激活缩放适配向量lk的优化，以生成训练后的模型；其中，在所述优化过程中，基于所述缩放因子和所述可学习激活缩放适配向量lk对所述前馈神经网络的中间隐藏层激活输出、所述注意力模块中的注意力值和注意力键进行缩放适配。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京市科学技术研究院，其通讯地址为：100089 北京市海淀区西三环北路27号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。