申请/专利权人：北京三快在线科技有限公司

申请日：2024-01-04

公开（公告）日：2024-04-09

公开（公告）号：CN117852583A

主分类号：G06N3/0455

分类号：G06N3/0455;G06N3/08;G06F40/30

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.26#实质审查的生效;2024.04.09#公开

摘要：本申请公开了一种语言模型的压缩方法和文本生成方法，属于人工智能技术领域。方法包括：对于原始语言模型中的任一个原始解码网络，基于任一个原始解码网络对第一输入特征进行解码，得到第一输出特征，任一个原始解码网络包括原始线性层；基于第一输出特征，对原始线性层的原始权重参数进行剪切和量化，得到第一权重参数；对第一权重参数进行补偿，得到第二权重参数；基于第二权重参数和任一个原始解码网络，确定任一个原始解码网络的压缩解码网络；基于各个原始解码网络的压缩解码网络，确定原始语言模型的压缩语言模型。本申请不仅降低了模型的参数量，还能保证压缩语言模型的精度。

主权项：1.一种语言模型的压缩方法，其特征在于，所述方法包括：获取待压缩的原始语言模型，所述原始语言模型包括多个串联的原始解码网络；对于任一个原始解码网络，基于所述任一个原始解码网络对第一输入特征进行解码，得到第一输出特征，所述第一输入特征是参考文本的文本特征或者所述任一个原始解码网络的上一个原始解码网络解码得到的输出特征，所述任一个原始解码网络包括原始线性层；基于所述第一输出特征，对所述原始线性层的原始权重参数进行剪切和量化，得到第一权重参数；对所述第一权重参数进行补偿，得到补偿后的第二权重参数；基于所述第二权重参数和所述任一个原始解码网络，确定所述任一个原始解码网络的压缩解码网络；基于各个原始解码网络的压缩解码网络，确定所述原始语言模型的压缩语言模型，所述压缩语言模型用于生成与基准文本语义相关的目标文本。

全文数据：

权利要求：

百度查询： 北京三快在线科技有限公司 语言模型的压缩方法和文本生成方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD