买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京熵简科技有限公司申请的专利一种面向少样本领域的轻量级半监督模型框架获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113920395B 。

龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111166569.1，技术领域涉及：G06F18/214；该发明授权一种面向少样本领域的轻量级半监督模型框架是由张梦超;付志兵;李渔;费斌杰设计研发完成，并于2021-09-30向国家知识产权局提交的专利申请。

本一种面向少样本领域的轻量级半监督模型框架在说明书摘要公布了：本发明公开了一种面向少样本领域的轻量级半监督模型框架，涉及深度学习自然语言处理技术领域，包括：作为预训练的激励网络；作为训练的目标网络，所述目标网络连接于所述激励网络，并与所述激励网络完成若干特征蒸馏；其中，所述激励网络利用一致性正则化和数据增强技术从无监督数据和监督数据中挖掘信息和特征，为后续的所述目标网络的训练提供多级正则化约束。本发明提供的上述框架采用半监督的学习方法，在文本分类中，只需要少量的标注数据，也能达到很好的效果；本发明提供的上述框架采用激励网络来引导目标网络的两阶段训练方法，因为最终的目标网络是轻量级的卷积神经网络，因此，参数量更小，运行时所需资源更少，速度更快。

本发明授权一种面向少样本领域的轻量级半监督模型框架在权利要求书中公布了：1.一种用于文本分类中的面向少样本领域的轻量级半监督模型系统，其特征在于，包括：作为预训练的激励网络；作为训练的目标网络，所述目标网络连接于所述激励网络，并与所述激励网络完成若干特征蒸馏；其中，所述激励网络利用一致性正则化和数据增强技术从无监督数据和监督数据中挖掘信息和特征，为后续的所述目标网络的训练提供多级正则化约束；所述激励网络包括先后依次连接的第一文本编码器、第一文本分类器和第一特征投影；其中，所述第一文本编码器是一个预先训练的语言模型，包括若干堆叠设置的transformer层，所述无监督数据和所述监督数据作为输入，经过所述第一文本编码器提供的预先训练，输出为第一向量；所述第一文本分类器包括第一多层感知器，接收所述第一向量并微调下游分类任务；所述第一特征投影包括单层感知机和非线性激活函数，用于对齐所述激励网络和所述目标网络的特征维度；所述目标网络包括先后依次连接的第二文本编码器、第二文本分类器和第二特征投影；其中，所述第二文本编码器包括若干卷积神经网络TextCNN，所述无监督数据和所述监督数据作为输入，经过所述第二文本编码器提供的训练，输出为第二向量；所述第二文本分类器包括第二多层感知器和接收的所述第二向量；所述第二特征投影的结构与所述第一特征投影的结构相同，还包括特征映射层。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京熵简科技有限公司，其通讯地址为：100085 北京市海淀区上地三街9号D座3层D408；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。