恭喜苏州元脑智能科技有限公司孙红岩获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜苏州元脑智能科技有限公司申请的专利用户交互方法、装置、电子设备、介质及产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119808719B 。
龙图腾网通过国家知识产权局官网在2025-05-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510295109.0,技术领域涉及:G06F40/16;该发明授权用户交互方法、装置、电子设备、介质及产品是由孙红岩设计研发完成,并于2025-03-13向国家知识产权局提交的专利申请。
本用户交互方法、装置、电子设备、介质及产品在说明书摘要公布了:本发明公开了一种用户交互方法、装置、电子设备、介质及产品,涉及电数字数据处理技术领域,可以利用量化后的多头注意力机制和多个解码器块叠加的架构方式,对用户输入的问题文本进行逐次循环的特征提取和语义关联,以得到更加准确的推理数据,且通过量化的方式进行多头注意力权重的更新,无需预训练或者微调即能够在保持一定精度的情况下起到加速模型推理的目的,因此,可以解决相关技术中精度有限,需要进行继续预训练或者微调来解决精度损失,进而影响推理速度的技术问题,达到同时保障模型推理速度和模型精度的技术效果。
本发明授权用户交互方法、装置、电子设备、介质及产品在权利要求书中公布了:1.一种用户交互方法,其特征在于,包括:接收用户的问题文本;将所述问题文本输入至文本推理大模型中,对初始解码器块中的多个注意力头进行分组,得到多个注意力组,其中,每个注意力组共享同一组键向量的权重和值向量的权重,所述每个注意力组中的注意力头的查询向量的权重一致;在查询向量在每个注意力头的权重不发生变化的情况下,构建键向量的权重的误差约束;基于所述误差约束构建相应的键向量代价函数,以更新每个注意力组的键向量的权重;基于更新后的键向量的权重更新所述每个注意力组的值向量的权重;基于所述更新后的键向量的权重和更新后的值向量的权重更新初始解码器块,以得到解码器块;以在所述问题文本逐步通过所述文本推理大模型中堆叠的多个解码器块后,输出所述问题文本对应的推理数据,其中,解码器块中的多头注意力权重由基于梯度的后训练量化得到;推送所述推理数据至所述用户。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。