申请/专利权人：成都信息工程大学

申请日：2024-04-08

公开（公告）日：2024-06-14

公开（公告）号：CN118194961A

主分类号：G06N3/088

分类号：G06N3/088;G06N3/084;G06V10/774;G06V10/82

优先权：

专利状态码：在审-公开

法律状态：2024.06.14#公开

摘要：本发明提出基于自适应语义特征的无监督解释方法，构建的可解释模型主要包括三个核心模块：特征级可解释性模块、自适应特征表达模块和特征重要性计算模块。首先将深度神经网络的深层特征映射视为其学习到的高级概念语义的抽象表达，然后使用非负矩阵分解技术从中无监督地提取出关键的语义信息，并进行特征级解释或结构化归因；通过维度缩放方案去实现自适应数量的特征提取；在特征重要性计算上，采用Shapley值算法进行计算。此外，生成显著性视觉解释来突出显示模型决策的关键区域。实验表明，本发明方法在解释准确度上更高，在不同的数据集和被解释模型的环境中，其解释准确度比现有方法有更好的表现，具有解释准确、鲁棒性和通用性的特点。

主权项：1.一种基于自适应语义特征的无监督解释方法，其特征在于，设计一个针对深度神经网络的分类任务的视觉解释方法，提供特征级的可解释性和显著性视觉解释，构建的可解释性网络包括特征级可解释性模块，自适应特征表达模块和特征重要性计算模块；特征级可解释性模块无监督地提取高级语义特征，以提供特征级的可解释性，自适应特征表达模块将提取多少个输入单元转换为维度缩放解决方案在非负矩阵分解过程中解决降维的目标维度确定问题，特征重要性计算模块引入了Shapley值法，计算特征的重要性，具体包括：步骤1：准备图像数据集，包括Mini-ImageNet2012数据集和PASCALVOC2012数据集；步骤2：对两个数据集分别进行预处理，对于训练集，分别在两个数据集的验证集中随机抽取1000张图像样本组成，对于测试集，在Mini-ImageNet2012数据集的1000个类别中随机抽取1张图像组成测试集，在PASCALVOC2012数据集随机抽取1000张图像组成测试集；步骤3：在测试集中抽取一个样本图像X输入特征级可解释性模块和自适应特征表达模块，得到特征级可解释性和特征掩码图像，具体包括：步骤31：将测试集的一个样本图像X处理为分辨率为224×224的三通道RGB图像，并按照预设的均值和标准差进行标准化；步骤32：将样本图像X及其类别标签输入到被解释的DNN网络中，然后在最后一个卷积层中将特征映射V截取出来；步骤321：将超参数的信息熵a′输入到维度缩放解决方案模块DSS中，非负矩阵分解模块的输入为特征映射V和目标维数k，输出为系数矩阵U；步骤33：将系数矩阵U视为目标维数k的特征矩阵，并且与样本图像X具有空间相关性，将系数矩阵U进行上采样、归一化、二值化得到目标维数k个与样本图像X分辨率相同的二值掩码Umask；步骤34：将二值掩码Umask中值为1的区域用来保留样本图像X的像素，值为0的区域用来对样本图像X进行雾化，同时对0和1的边界进行视觉增强，最后得到的图像是显示特征在样本图像X的表达，即特征可解释性；步骤35：将二值掩码Umask中值为1的区域用来保留样本图像X的像素，值为0的区域用以屏蔽样本图像X的像素，生成的特征掩码图像输入特征重要性计算模块；步骤4：将步骤35处理得到的特征掩码图像作为需要用来计算重要性的特征，引入Shapley值法，具体包括：步骤41：将k个特征掩码图像视为k个特征，计算k个特征的重要性，具体做法是：步骤411：用N表示k个特征的集合，用j表示N中的一个特征，j＝{1，2，...，k}，以特征j为例，计算特征j的重要性；步骤412：在N\{j}中进行一次多线性采样，采样特征用Li，i＝{1,2,...,QM}表示，得到多线性采样结果L＝{L1，L2，...，LQM}，其中，Q，M为正整数Li为值为0或1的伯努利序列；步骤413：用组合特征Li∪{j}表示多线性采样结果加上特征j，将其重新馈送至DNN网络中得到输出值YcLi∪{j}，同样地得到YcLi并求得YcLi∪{j}-YcLi，结果为本次采样结果组合特征的边际贡献；步骤414：依据多线性采样要求，需要进行QM次采样，即重复QM次步骤412和步骤413并将每次采样的边际贡献累加求和得到特征j的Shapley值，即特征j的重要性；步骤42：重复步骤41为所有的k个特征计算重要性并得到重要性向量；步骤5：将所述重要性向量作为权重赋予对应特征，也就是将重要性向量和系数矩阵U进行线性结合得到类别激活图，然后类别激活图并上采样到样本图像X的输入大小m，n，并进行最大最小值归一化到[0,1]，并与样本图像X进行融合得到显著性图；步骤6：重复步骤3到步骤5，为测试集的每一个样本都生成显著性图；步骤7：根据样本图像X的显著性图的元素值大小表示样本图像X对应像素的重要性。

全文数据：

权利要求：

百度查询： 成都信息工程大学 基于自适应语义特征的无监督解释方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD