Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜苏州智算科技有限公司崔林获国家专利权

恭喜苏州智算科技有限公司崔林获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜苏州智算科技有限公司申请的专利基于P4硬件交换机的量化多层感知机神经网络推理系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117973543B

龙图腾网通过国家知识产权局官网在2025-03-07发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410231272.6,技术领域涉及:G06N5/04;该发明授权基于P4硬件交换机的量化多层感知机神经网络推理系统是由崔林;张效铨;聂伟设计研发完成,并于2024-02-29向国家知识产权局提交的专利申请。

基于P4硬件交换机的量化多层感知机神经网络推理系统在说明书摘要公布了:本发明公开了基于P4硬件交换机的量化多层感知机神经网络推理系统,具体涉及计算机技术领域,包括训练模块、推理模块以及转换模块。本发明使用神经网络剪枝算法和量化算法自动压缩和搜索原始多层感知机神经网络;剪枝算法能有效地剔除原始模型中的无效和冗余计算节点,降低模型复杂度;量化算法将原本复杂的浮点数运算降低为P4硬件交换机上的PISA流水线架构中支持的定点数运算;保证原始模型的高准确率性能的同时,找到满足当前PISA流水线可利用资源的压缩模型;设计P4硬件交换机中的推理PISA流水线,通过P4语言支持的匹配动作表和元数据的设计实现了多层感知机在PISA流水线中的直接推理运算,避免与控制器之间大量且不必要的通信和计算成本。

本发明授权基于P4硬件交换机的量化多层感知机神经网络推理系统在权利要求书中公布了:1.基于P4硬件交换机的量化多层感知机神经网络推理系统,其特征在于,其具体包括:训练模块100,用于在控制器中通过历史网络数据信息训练多层感知机,并通过剪枝和量化技术压缩多层感知机的存储和计算总量;推理模块200,用于在P4硬件交换机中设计不同的计算模块以进行多层感知机推理;转换模块300,用于将多层感知机的推理步骤转换到P4硬件交换机中的不同计算模块;训练模块100对历史网络数据包信息进行处理,训练多层感知机以获得最佳权重,其中训练时使用剪枝算法和量化算法对目标多层感知机进行压缩,包括以下步骤:步骤S1、剪枝:其目标是在给定剪枝率γ和输入的多层感知机模型M的条件下,最小化模型M剪枝损失函数,其中约束条件为GM′≤γ*GM,其中G表示计算模型参数的函数,M′为剪枝后的模型;步骤S2、量化:其内容是将输入的剪枝模型M′中的参数由原来的使用浮点数Float32表示量化为使用定点数INT8表示,同时其目标是最小化模型M′量化损失函数;步骤S3:计算量化步骤输出的多层感知机M′是否满足当前PISA流水线的剩余可利用资源,若满足则算法结束,否则,降低剪枝率γ的数值,重复步骤S1和S2直到输出满足PISA流水线资源的感知机模型;步骤S4:确定输入为流f的一组流级别特征和量化多层感知机M′,确定输出为yf计算结果;步骤S5:使用匹配动作表将输入中的每一个特征转换为定点数INT8格式,并将它们作为量化多层感知机M′的第一层输入;步骤S6:进行推理时,对于量化多层感知机M′中的每一层推理计算过程;所述步骤S6计算步骤包括:步骤S6.1:令输入向量矩阵和参数矩阵分别为UI=RN×N和Uw=RN×M,输出矩阵为UO=RN×M,其推理过程的计算方式为: 令该层的量化缩放因子,量化定点数和零点分别为μ,v和Θ,使用量化公式对该公式进行转换,可得: 进一步化简该公式可得: 其中,λ的计算方式为: 步骤S6.2:在步骤S6.1中的计算公式,将的计算拆分为三部分,首先,使用INT8乘法计算的结果,随后使用INT8加法完成累加操作;最后,由于λ不是定点数无法在交换机中完成计算,因此使用匹配动作表的方式,提前计算好λ,累加结果和Θo的累加值并存储在交换机上,则该匹配动作表的输入是定点数的累加值,输出为的具体值。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州智算科技有限公司,其通讯地址为:215600 江苏省苏州市张家港市余镇G204与乐丰路交叉口向北100米乐创空间184970;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。