首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于路由选择与原型学习的主动增量学习方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:西北工业大学

摘要:本发明公开了一种基于路由选择与原型学习的主动增量学习方法,首先采用预训练视觉骨干模型对增量数据集输入图像提取一组特征向量,在此基础上将每一类图像的特征向量合并成一个特征矩阵,将该特征输入预训练视觉骨干模型,得到一个特征矩阵,取特征矩阵的第一行特征向量作为该类别的类别原型,类别原型包含了该类别的共有特点,可以代表一个类别的总体特征。一个训练集的所有的类别原型则共同构成模型的分类器,从而使模型可以更清晰地区分不同图像类别。最后在增量数据集中通过基于路由选择的主动学习方法选择出一部分增量图像,将选出的图像作为增量模型的训练集进行训练来更新模型。本方法在多个数据集上的分类精确度均获得了突出进步。

主权项:1.一种基于路由选择与原型学习的主动增量学习方法,其特征在于,包括如下步骤:步骤1:给定增量数据的所有输入图像,经由冻结参数的预训练视觉骨干模型编码得到每个图像的特征向量,其中,表示第i个类的第j张图片的特征向量,为实数集,表示特征数量,表示每个特征的通道数量;步骤2:合并每个类别所有图像的特征向量得到每个类别的特征矩阵,其中表示第i个类别的图像数量;步骤3:对每个类别个图像的特征向量取平均,,将合并到的第一列得到,将合并后的特征矩阵输入冻结参数的预训练视觉骨干模型编码得到,提取出特征之间的依赖关系,取的第一行特征向量进行归一化后作为第i类的类别原型,按照这个过程,求取训练数据所有类的类别原型;步骤4:合并所有的类别原型得到类别原型矩阵,m为训练集样本种类的数量,即有m个类别原型;修改一个视觉骨干模型的分类器,将类别原型矩阵与模型倒数第二层输出的特征相乘得到预测概率矩阵,n为模型一次训练的样本数量,代表这n个样本属于m个类的预测概率,将修改后的视觉骨干模型作为增量模型;步骤5:在一个视觉骨干模型编码器最后添加softmax层,使用softmax函数进行归一化操作,组成路由网络;将输入路由网络,得到第i类数据个样本的选择概率矩阵;按照概率大小,除了概率最高的前k个样本的概率,将中其余的样本的选择概率置为0;步骤6:将每个样本的特征向量乘以中对应的权重得到加权后样本的特征向量,即,作为增量模型的新的训练集的一部分;对每个类都进行这个操作,得到增量模型新的训练集,选取出增量数据中最有价值的样本;步骤7:将增量模型的训练集的样本输入步骤4中构建的增量模型中,得到最终分类分数,将采用交叉熵损失进行训练,即:,其中为温度参数;步骤8:采用随机梯度下降SGD优化器对损失函数进行最小化,优化方法中的所有可训练参数;最终的分类结果为,argmax函数能够求自变量的最大值;步骤9:每当有增量数据需要学习时重复步骤1至步骤8的内容,直至所有数据都学习完毕。

全文数据:

权利要求:

百度查询: 西北工业大学 一种基于路由选择与原型学习的主动增量学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。