申请/专利权人：甲骨文国际公司

申请日：2021-11-30

公开（公告）日：2023-08-04

公开（公告）号：CN116547676A

主分类号：G06N3/0985

分类号：G06N3/0985;G06N20/00

优先权：["20201130 US 63/119,449","20211129 US 17/456,687"]

专利状态码：在审-实质审查的生效

法律状态：2023.12.12#实质审查的生效;2023.08.04#公开

摘要：用于在自然语言处理中使用增强型logit值对输入到聊天机器人系统的话语和消息进行分类的技术。一种方法可以包括聊天机器人系统接收由与该聊天机器人系统交互的用户生成的话语以及将该话语输入到包括一系列网络层的机器学习模型中。该一系列网络层中的最终网络层可以包括logit函数。机器学习模型可以使用logit函数将可解析分类的第一概率映射到第一logit值。机器学习模型可以将不可解析分类的第二概率映射到增强型logit值。该方法还可以包括聊天机器人系统基于第一logit值和增强型logit值将该话语分类为可解析分类或不可解析分类。

主权项：1.一种方法，包括：由聊天机器人系统接收由与所述聊天机器人系统交互的用户生成的话语，其中，所述话语包括从所述用户的语音输入转换的文本数据；由所述聊天机器人系统将所述话语输入到包括一系列网络层的机器学习模型中，其中，所述一系列网络层中的最终网络层包括logit函数，所述logit函数将可解析分类的第一概率变换为表示第一logit值的第一实数并且将不可解析分类的第二概率变换为表示第二logit值的第二实数；由所述机器学习模型确定所述可解析分类的所述第一概率和所述不可解析分类的所述第二概率；由所述机器学习模型使用所述logit函数将所述可解析分类的所述第一概率映射到所述第一logit值，其中，用于映射所述第一概率的所述logit函数是与所述可解析分类的所述第一概率相对应的几率的对数，所述几率的对数由与所述可解析分类相关联的分布的质心加权；由所述机器学习模型将所述不可解析分类的所述第二概率映射到增强型logit值，其中，所述增强型logit值是独立于用于映射所述第一概率的所述logit函数而确定的第三实数，其中，所述增强型logit值包括：i基于从训练数据集生成的一组logit值确定的统计值；ii选自由与所述不可解析分类的所述第二概率相对应的几率的第一对数所定义的值范围的有界值，所述几率的第一对数由限界函数约束到值范围并且由与所述不可解析分类相关联的分布的质心加权；iii由与所述不可解析分类的所述第二概率相对应的几率的第二对数生成的加权值，所述几率的第二对数由所述限界函数约束到所述值范围、由缩放因子缩放、并且由与所述不可解析分类相关联的所述分布的所述质心加权；iv基于对所述机器学习模型的超参数调谐生成的超参数优化值；或者v在对所述机器学习模型的训练期间调整的学习值；以及由所述聊天机器人系统基于所述第一logit值和所述增强型logit值将所述话语分类为所述可解析分类或所述不可解析分类。

全文数据：

权利要求：

百度查询： 甲骨文国际公司 用于自然语言处理的增强型logit

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD