龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：百度(美国)有限责任公司
申请日：2021-03-15
公开（公告）日：2024-06-25
公开（公告）号：CN112861514B
主分类号：G06F40/211
分类号：G06F40/211;G06F40/30
优先权：["20200710 US 16/926,525"]
专利状态码：有效-授权
法律状态：2024.06.25#授权;2021.06.15#实质审查的生效;2021.05.28#公开
摘要：本申请公开了分割语法和语义的注意力增强的全相关变分自编码器，涉及人工智能，尤其涉及NLP领域。本文中描述了被称为全相关变分自编码器TC_VAE的框架的实施方式，其通过利用KL差异的全相关惩罚来解缠语法和语义。分解变分自编码器的损失中的一个或多个库尔贝克‑莱不勒KL发散项，从而可以分离生成的隐藏变量。TC_VAE框架的实施方式用于语义相似性任务和语法相似性任务的检查。实验结果表明，与现有技术SOTA相比，在相同的数据集上，在相似的设置下，在语法表示和语义表示之间实现了更好的解缠。
主权项：1.用于语义与语法分割潜在表示的计算机实现的方法，包括：使用嵌入层为符号序列生成嵌入序列，其中所述符号是单词或对单词的表示；使用注意力层基于所述嵌入序列生成注意力掩码序列；基于所述嵌入序列和所述注意力掩码序列生成隐藏变量序列；分别使用语义编码器和语法编码器基于所述隐藏变量序列生成第一潜在变量序列和第二潜在变量序列；以及使用解码器至少基于所述第一潜在变量序列和所述第二潜在变量序列的信息来推断重构符号序列和重构注意力掩码序列；以及使用所述重构符号序列和所述重构注意力掩码序列来建立损失以至少训练所述注意力层、所述语义编码器、所述语法编码器和所述解码器。
全文数据：
权利要求：
百度查询： 百度(美国)有限责任公司 分割语法和语义的注意力增强的全相关变分自编码器
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号