龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：清华大学
申请日：2024-04-02
公开（公告）日：2024-06-21
公开（公告）号：CN118228788A
主分类号：G06N3/063
分类号：G06N3/063;G06N3/0464;G06N3/047;G06N3/048
优先权：
专利状态码：在审-公开
法律状态：2024.06.21#公开
摘要：本公开涉及面向生成式预训练模型的加速器、加速推理方法及电子设备，所述加速器包括：多个加速计算模块以及归一化计算模块，每个加速计算模块包括：第一非线性计算单元，用于根据当前获取的第n个词元以及已计算出的第n‑1个词元对应的均值和方差，计算第n个词元对应的均值和方差，第0个词元对应的均值和方差为0，k为待计算层归一化的第一词元序列的长度；归一化计算模块，用于根据第一非线性计算单元输出的第k个词元对应的均值和方差，对第一词元序列中各个词元进行归一化计算，得到第一词元序列对应的层归一化计算结果。由此，能够提高加速器对生成式预训练模型中非线性算子的运算效率和性能，从而提高生成式预训练模型的推理效率。
主权项：1.一种加速器，其特征在于，包括：多个加速计算模块以及归一化计算模块，其中，每个加速计算模块包括：第一非线性计算单元，用于根据当前获取的第n个词元以及已计算出的第n-1个词元对应的均值和方差，计算第n个词元对应的均值和方差，1≤n≤k，第0个词元对应的均值和方差为0，k为待计算层归一化的第一词元序列的长度；所述归一化计算模块，用于根据所述第一非线性计算单元输出的第k个词元对应的均值和方差，对所述第一词元序列中各个词元进行归一化计算，得到所述第一词元序列对应的层归一化计算结果。
全文数据：
权利要求：
百度查询： 清华大学 面向生成式预训练模型的加速器、加速推理方法及电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号