龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：电子科技大学长三角研究院(衢州)
申请日：2024-02-28
公开（公告）日：2024-06-11
公开（公告）号：CN118171690A
主分类号：G06N3/045
分类号：G06N3/045;G06N3/0464;G06N3/08
优先权：
专利状态码：在审-公开
法律状态：2024.06.11#公开
摘要：本发明属于人工智能神经网络技术领域，公开了一种用于机器学习的注意力机制的网络架构设计方法及系统，通过多分支映射操作将原始输入特征张量映射为多个分支特征张量；对每分支的输入特征张量进行卷积运算，得到每分支的输出特征张量；将每分支输出的特征张量进行按维度拼接操作，得到新的多尺度特征张量；基于所得多尺度特征张量提取注意力权重；对提取到的注意力权重进行再校准操作，建立起局部和全局的通道注意力相互依赖关系，得到校准后的注意力权重；将校准后的注意力权重作用于多分支输出所得的多尺度特征张量，得到经过注意力机制调整后的特征张量。本发明的多分支注意力机制MBA模块非常灵活，可以和其他卷积神经网络以及注意力机制组合使用。
主权项：1.一种用于机器学习的注意力机制的网络架构设计方法，其特征在于，包括以下步骤：步骤一，多分支映射，通过多分支映射操作将原始输入特征张量X映射为多个分支特征张量[X0,X1,...,,XS,...,XS-1]，S为分支数；步骤二，多分支仿射变换，对每分支的输入特征张量XS进行卷积运算，得到每分支的输出特征张量；步骤三，多分支维度拼接，将每分支输出的特征张量按维度串联拼接，得到新的多尺度特征张量F；步骤四，提取注意力权重，基于所得多尺度特征张量F提取注意力权重Z；步骤五，注意力权重的再校准，对提取到的注意力权重Z进行再校准操作，建立起局部和全局的通道注意力相互依赖关系，得到校准后的注意力权重；步骤六，注意力操作，将校准后的注意力权重作用于多分支输出所得的多尺度特征张量F，得到经过注意力机制调整后的特征张量。
全文数据：
权利要求：
百度查询： 电子科技大学长三角研究院(衢州) 用于机器学习的注意力机制的网络架构设计方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号