买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:合肥自然秩序科技有限公司
摘要:本发明涉及人工智能技术领域,尤其是设计基于事态流和自回归模型实现可学习模型和芯片的方法,包括事态流数据的收集、事态流自回归模型的训练、事态流自回归模型的应用、事态流自回归模型获得可学习模型以及事态流自回归模型的优化方法。本发明基于Transformer架构的大语言模型之所以强大,内在原因是因为其拟合了自然语言动力学方程。为此,将这种拟合动力学方程的方法用于可学习模型和芯片,虽然这样的实现方法会降低可学习模型和芯片的智力上限,但可以通过进一步的优化,来让事态大模型的智力水平获得提升。
主权项:1.基于事态流和自回归模型实现可学习模型和芯片的方法,其特征在于,具体包括如下步骤:M1.事态流数据的收集:基于自回归大模型的可学习模型和芯片,为了有效的模仿人类处理任务的过程,必须收集人类智能生命从事真实任务过程中所产生的数据,每段事态流数据中的事态,都需要包括输入数据、输出数据和状态数据,其中状态数据内蕴含了智能体在从事任务处理过程中期望达成的目标;如可学习模型和芯片技术中所提到的,智能体总是期望自身的状态数据,以尽可能快的速度稳定到某个稳定点;M2.事态流自回归模型的训练:基于事态流训练的大模型,其训练目标是对下一个事态的预测,通常做法是堆叠前n个事态数据作为输入对下一个事态进行预测。在这里,将这种堆叠操作视为模型的一部分,这样模型整体的输入为一个完整的事态,对事态的预测,保证了模型对产生数据的智能体实现了更完备的模仿;M3.利用事态流自回归模型获得可学习模型:事态大模型的输入事态,包括了输入信息、输出信息和状态信息,同时事态大模型的输出事态也包括了输入信息、输出信息和状态信息,对比可学习模型,其输入信息包括输入信息和状态输入信息,输出信息仅包含输出信息,对事态流回归模型的输入事态和输出事态中不需要的部分,进行屏蔽,并对输出信息进行自回归处理,即预测的输出信息,作为下一个事态的输出信息;M4.事态流自回归模型的优化方法:处理后的事态流自回归模型,可以看出它形式上是一个递归的可学习模型,作为可学习模型,其智力水平受限于收集到的用于模仿的智能体的智商,为了获得更高智商的可学习模型,可以通过训练可学习模型的方法进一步训练和微调;具体方法是,使用装载可学习模型的代理,在具体任务上做递归执行,评估可学习模型的执行效果,利用演化算法对事态流自回归模型的参数进行调整;M5.事态流自回归模型的应用:微调完成后的事态流自回归模型,就可以制作成可学习模型和芯片产品,广泛的应用于机器人和广义机器人领域。
全文数据:
权利要求:
百度查询: 合肥自然秩序科技有限公司 基于事态流和自回归模型实现可学习模型和芯片的方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。