买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：贵州大学

摘要：本发明公开了一种基于组Lasso的高效块增量随机配置网络建模方法，属于随机配置网络技术领域，主要包括步骤：高效块增量随机配置网络建模和基于组Lasso的模型稀疏化，首先，EBSCNGL方法舍弃了块增量不等式约束中计算昂贵的矩阵广义逆，且同时能够保证模型的万局逼近定理；其次，EBSCNGL通过组Lasso正则化项技术有效提升了BSCN的稀疏性，能够获得更为紧凑的网络架构，且EBSCNGL采用了交替更新的方式计算模型隐藏层输出权重的方式能够在有限迭代次数内实现模型的收敛，提高训练效率。

主权项：1.一种基于组Lasso的高效块增量随机配置网络建模方法，其特征在于：主要包括步骤：高效块增量随机配置网络建模和基于组Lasso的模型稀疏化；假设包含N条样本的训练数据集表示为Rd表示训练集输入样本为d维实数，Rm表示m维标签数据，xi和ti分别代表训练样本的第i条输入和输出样本，对于一个待近似的函数：f:Rd→Rm，假设已经构建了一个包含L-1个隐藏层节点的单隐层神经网络，当前网络残差表示为eL＝f-fL-1，给定0＜r＜1和一个非负实值序列{μL}，μL≤1-r且limL→+∞μL＝0，BSCN随机配置的隐藏层参数需满足下列不等式约束： 式中，为模型第q个输出节点的网络残差，HΔk为于第k次迭代后新增隐藏块的输出矩阵；tr·为矩阵的迹；其中，隐藏层节点输出权重通过全局最小二乘法求得；采用模拟退火算法动态调整每次新增隐藏块的大小，隐藏块尺寸Δk调节如下：Δk＝1+roundΔ1-1×1-expdEη式中，η为一个超参数，round·则为一个整数函数，Δ1为隐藏块初始化尺寸；将组Lasso惩罚项L2,1范数嵌入BSCN的目标函数后为 式中，H和β分别表示隐藏层的输出矩阵和输出权重，T为训练集输出，α是正则项系数；其中，输出权重计算，目标函数Jβn对β求导得 式中，Σ为： 式中，βi为隐藏层输出权重矩阵的第i个行向量，‖βi‖2代表βi的L2范数；令求导公式等于0，得β＝HTH+αΣ-1HTT根据伍德伯里矩阵恒等式，将β＝HTH+αΣ-1HTT改写，得 式中，I为单位矩阵；隐藏层输出权重β与对角矩阵Σ交替更新直至算法收敛。

全文数据：

权利要求：

百度查询： 贵州大学 一种基于组Lasso的高效块增量随机配置网络建模方法