买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京工业大学
摘要:一种基于深度网络模型和树形结构集成的骶髂关节炎分类方法涉及医学影像处理领域,解决骶髂关节炎CT影像的分类由于样本少、类别数多、问题间难度不均衡的问题。本发明根据端到端的网络模型分类结果和先验知识,提出了树形结构分类的思想。为克服样本少导致的模型可能过拟合的问题,我们采用了集成模型投票的思想,以降低方差,提高模型的鲁棒性。
主权项:1.一种基于深度网络模型和树形结构集成的骶髂关节炎分类方法,其特征在于包括以下步骤:1CT图像预处理阶段:第一步,获得感兴趣区ROI;第二步,归一化关节方向;将骶髂关节的倾斜方向全部统一为相同方向;第三步,标准化尺寸和分辨率;2确定分支和模型训练阶段:第一步,将分类按照树结构分为两层;在第一层树形分支将0、1级归为1类,2、3级归为第2类,4级单独设定为第3类;在第二层中再用两个二叉树,区分0、1级和2、3级;对于任意图像xi,经过编码器f后会获得特征嵌入hi,图像的特征表示vi则通过回归层g获得:vi=gfxi=gWhi1W是权重;使用Softmax作为回归层是解决分类问题的标准方法;对于多分类问题,特征表示vi会被转化为用于图像分类的概率pi,即: n代表分类数,W=W1,W2,…,WnT代表权重向量,T表示转置,yi代表图像xi的预测值;pi是图像xi被网络预测为所有类别的概率组成的一维概率矩阵,P{yi=n|hi,W}表示在该权重W和特征嵌入hi的条件下,图像xi的预测值yi为n的概率;由于Softmax函数公式为: 其中z是一个向量,zi和zj是其中一个元素,因此表示了每一个预测概率的取值;l只用来计数,表示分母是n个类别的之和;分子则是每个类别的expzi;树结构表示类别之间的依赖关系,如下所示: P{yi=k}表示图像xi的预测值yi为类别k的概率,表示包含图像xi的所有非空类别子集的序列;从树结构的角度看,ni,j表示分支j下图像xi所在的子类别,等于整个数据集,与i无关;公式4的右侧表示在包含图像xi的所有非空类别子集的序列的交集中,图像xi的预测值yi为类别k的概率;使用树状结构计算其为类别k的概率时,之前的分支都会被考虑进来,即: {}表示事件,分母为同时发生所有事件的概率,这些事件是包含图像xi的所有分支,即在考虑所有分支的情况下包含图像xi的概率;分子则是在发生所有这些事件的同时发生图像xi的预测值yi为类别k事件的概率;根据树结构,是单调降集合的序列,满足D是数据集;所以2式可精简为: 当图像xi属于子集nk是分支k下的子类别,是包含这些子类别的子集序列时,由于它的标签不能是nk-1,即同时,当xi不属于类别ni,k-1,它会属于树结构的其他分支,即所以,概率公式如下: ni,k-1表示分支k-1下图像xi所在的子类别;综上,根据树结构决策,对于任意图像xi在理想情况下属于类别k的概率mkxi可表达为下式: 第二行的表达式根据公式267推出,表示预测值yi为分支k-1中图像xi所在的子类别的概率,即第二步,模型训练;采用ResNet系列网络分别进行三分类和二分类任务的训练来实现;采用了5个ResNet网络,分别是ResNet10、ResNet18、ResNet34、ResNet50和ResNet101;ResNet网络在深度神经网络的基础上引入了残差块;5个网络分别在每个节点的分类任务上进行训练;每种分类任务为一个节点,例如在该方法中,第一层是一个三分类节点,将01合并为1类、23合并为一类,4单独一类;第二层是两个两分类节点,分别是区分01和23;每次训练时输入希望让网络分类的类别空间对应的数据,让单个网络只进行该部分分类任务;训练时采用交叉熵损失函数,如下式所示: 其中px为真实概率分布,qx为预测概率分布,n是类别数;交叉熵越小,损失越小,模型的预测效果越好;在三分类任务上,使用的超参数为:batchsize=8,学习率1e-3,权重衰减1e-4,epoch=150;二分类任务与三分类任务的超参数差别在于学习率变成了1e-4;训练150轮后,选择交叉熵损失最小的模型保存;网络均采用不同层数的默认的ResNet结构;每个节点上的训练,都将该节点涉及到的类别的数据分为训练集和测试集,输入五个网络分别训练和测试,以查看单个网络的分类性能;3树形结构集成模型投票的分类阶段:用训练好的三分类和二分类Resnet模型搭建树形分支结构,并在每个分支的预测节点都采用集成模型投票;每个节点对应一个分类任务,让五个模型分别针对当前的分类任务给出对当前图像的分类结果;若为二分类,直接少数服从多数决定最终结果;若为三分类,若分类结果呈现2:2:1的情况,则分别在两个票数相同的分支内给出分类结果和预测概率并打印;最终的指标计算中,只要存在与标签吻合的分类结果,即算作分类正确;若不是,则少数服从多数。
全文数据:
权利要求:
百度查询: 北京工业大学 一种基于深度网络模型和树形结构集成的骶髂关节炎分类方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。