龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京长河数智科技有限责任公司;长河信息股份有限公司
摘要：本申请公开了一种基于Transformer的摘要生成方法，涉及摘要生成技术领域，包括：获取文本序列；建立语言模型获取词嵌入矩阵；将词嵌入矩阵输入位置编码模型进行位置编码，得到加入位置信息的词嵌入矩阵；构建Transformer模型，生成摘要；Transformer模型包含编码器和解码器，编码器通过多层注意力机制编码输入文本序列的语义信息；解码器通过多层注意力机制生成摘要序列；解码器包含自注意力层，在自注意力层中，通过全连接网络获得遮挡向量，将遮挡向量与解码器内部的键值表示进行点积计算，以获得调整后的注意力权重分布；在编码器和解码器之间建立残差连接，将编码器输出的语义特征直接输入到解码器。针对现有技术中生成摘要精度低的问题，本申请提高摘要精度。
主权项：1.一种基于Transformer的摘要生成方法，包括：获取文本序列；建立语言模型，对输入的文本序列进行词嵌入表示，得到词嵌入矩阵；将词嵌入矩阵输入位置编码模型进行位置编码，得到加入位置信息的词嵌入矩阵；构建Transformer模型，将加入位置信息的词嵌入矩阵作为输入，利用Transformer模型生成输入文本序列的摘要；Transformer模型包含编码器和解码器，编码器通过多层注意力机制编码输入文本序列的语义信息；解码器通过多层注意力机制生成摘要序列；解码器包含自注意力层，在自注意力层中，通过全连接网络获得遮挡向量，将遮挡向量与解码器内部的键值表示进行点积计算，以获得调整后的注意力权重分布；在编码器和解码器之间建立残差连接，将编码器输出的语义特征直接输入到解码器，以传递语义信息；解码器按时间步依次输出摘要的词符号序列，形成最终的摘要。
全文数据：
权利要求：
百度查询： 北京长河数智科技有限责任公司 长河信息股份有限公司 一种基于Transformer的摘要生成方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号