买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京智源人工智能研究院申请的专利Triton算子调用核函数的方法、装置和电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119311281B 。

龙图腾网通过国家知识产权局官网在2025-03-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411833387.9，技术领域涉及：G06F8/41；该发明授权Triton算子调用核函数的方法、装置和电子设备是由李之昕;白童心;陈飞宇设计研发完成，并于2024-12-13向国家知识产权局提交的专利申请。

本Triton算子调用核函数的方法、装置和电子设备在说明书摘要公布了：本发明公开了Triton算子调用核函数的方法、装置和电子设备，涉及人工智能技术领域。该方法包括：构建Triton算子的运行时结构，若核函数首次调用且为单核心，则通过JITFunction来编译核函数，若核函数首次调用且为多核心，则整体调整得到全局性能最佳的编译参数，若核函数非首次调用，则通过LibEntry中的映射表获取核函数，所述映射表中写有编译参数和对应的核函数或最佳的编译参数和对应的核函数。实践表明，本发明提供的方案可在小规模的函数调用中，将端到端的时间开销降低约70%。而且，通过全局调优的方式扩大了多核心算子的参数调优空间，提升了配置参数的自由度，提高了归约类算子的计算效率。

本发明授权Triton算子调用核函数的方法、装置和电子设备在权利要求书中公布了：1.一种Triton算子调用核函数的方法，其特征在于，包括：构建Triton算子的运行时结构，构建的所述运行时结构从内向外包括装饰器：JITFunction和LibEntry；其中，LibEntry在初始化时创建空的映射表、设置线程锁以及从其他装饰器中收集注册参数；根据收集的注册参数以及调用时的传入参数判断核函数是否首次调用；若核函数首次调用且为单核心，则通过JITFunction来编译核函数，并将编译参数与编译好的核函数写入LibEntry的映射表；若核函数首次调用且为多核心，则以各个核心的综合性能为目标，对中间变量与各个核心的参数同时进行整体调整得到全局性能最佳的编译参数，并将最佳的编译参数和对应的核函数写入LibEntry的映射表；若核函数非首次调用，则通过LibEntry中的映射表获取核函数，所述映射表中写有编译参数和对应的核函数或最佳的编译参数和对应的核函数；所述根据收集的注册参数以及调用时的传入参数判断核函数是否首次调用包括：在LibEntry中，将调用时的传入参数对应到收集的注册参数上并进行包装，并利用包装后的参数得到一个键值；从映射表中查找得到的键值是否存在，若不存在，则核函数首次调用；若存在，则核函数非首次调用；若核函数首次调用，则将键值与编译所得的核函数建立映射并写入映射表；所述利用包装后的参数得到一个键值包括：将包装后的参数划分为特化参数、非特化参数和常量参数；其中常量参数是在函数声明时标记为常量的参数；特化参数是在函数声明时未标记且被编译到核函数中的参数；非特化参数是在JITFunction装饰器中标记且未被编译到核函数中的参数；利用特化参数的数据类型和取值、非特化参数的数据类型以及常量参数的取值得到一个键值；键值是一个元组的形式：其中对于常量参数，直接将它的值加入键值；对于特化参数，将它的数据类型与是否地址对齐的信息加入键值；对于非特化参数，仅将它的数据类型加入键值；采用如下方法判断核函数是否为单核心：若LibEntry装饰器包装的是一个已经被JITFunction装饰过的函数，内层是一个JITFunction的实例，则核函数为单核心；若LibEntry装饰器包装的是一个普通的Python函数，则核函数为多核心；所述方法还包括：若当前线程中，在映射表中未查找到键值时，则查询线程锁的状态；如果线程锁为禁用状态，则当前线程先启用线程锁保护映射表，再进行核函数的编译；如果线程锁为启用状态，则当前线程反复查询直到线程锁禁用或查找到键值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京智源人工智能研究院，其通讯地址为：100084 北京市海淀区成府路150号5层501号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。