买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中山大学申请的专利一种误差可控的混合精度算子自动化优化方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114217817B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111551663.9，技术领域涉及：G06F8/41；该发明授权一种误差可控的混合精度算子自动化优化方法是由莫泽威;张献伟;葛天傲设计研发完成，并于2021-12-17向国家知识产权局提交的专利申请。

本一种误差可控的混合精度算子自动化优化方法在说明书摘要公布了：本发明公开了一种误差可控的混合精度算子自动化优化方法，该方法包括：第一次优化，在给定输入下，通过ID转换方法优化通用矩阵乘法函数，并记录通用矩阵乘法函数的运行顺序及其对应的维度；第二次优化，根据优化过的通用矩阵乘法GEMM函数ID列表和通用矩阵乘法函数顺序表，对每个未优化的通用矩阵乘法调用函数的输入传输到预设的不同参数组合的快速矩阵乘法函数中并进行性能计时与误差计算；第三次优化，分析获得数据，将单精度矩阵乘法算法换为混合精度矩阵乘法算子，输出优化后代码。通过使用本发明，使得混合精度GEMM算子可以在更复杂更广泛的高性能计算程序中帮助提升性能。本发明可广泛应用于编译器领域。

本发明授权一种误差可控的混合精度算子自动化优化方法在权利要求书中公布了：1.一种误差可控的混合精度算子自动化优化方法，其特征在于，包括以下步骤： 获取源代码； 第一次优化，基于源代码，在给定输入下，通过ID转换方法优化通用矩阵乘法函数，并记录通用矩阵乘法函数的运行顺序及其对应的维度，得到优化过的通用矩阵乘法函数ID列表和通用矩阵乘法函数顺序表； 第二次优化，根据优化过的通用矩阵乘法函数ID列表和通用矩阵乘法函数顺序表，对每个未优化的通用矩阵乘法调用函数的输入矩阵传输至预设的不同参数组合的快速矩阵乘法函数中并进行性能计时与误差计算，得到每个替换原通用矩阵乘法函数的最佳参数组合下的快速矩阵乘法函数； 第三次优化，分析获得的性能数据并选择最佳的参数组合进行函数替换，将单精度矩阵乘法算法换为混合精度矩阵乘法算子，输出优化后代码； 所述第一次优化的具体步骤包括： 根据源代码生成对应的LLVM位码文件； 扫描LLVMIR的指令并将通用矩阵乘法调用函数转换为带有独特ID的包装函数； 在包装函数的下一个指令前将包装函数的ID输出至函数调用ID文件； 在包装函数的下一个指令前将通用矩阵乘法调用函数的矩阵规模并输出至矩阵维度记录文件； 生成可执行文件并在给定输入下运行，获取优化过的通用矩阵乘法GEMM函数ID列表； 所述第二次优化的具体步骤包括： 读取函数调用ID文件并整理，得到整理后的函数调用ID文件； 记录不同参数组合下快速矩阵乘法函数的被替换目标函数ID及其测试效果，得到被替换目标函数ID列表； 按顺序对整理后的函数调用ID文件中的每一个ID进行遍历； 对整体位码文件进行IR遍历； 在查找到目标通用矩阵乘法函数且其ID在被替换目标函数ID列表时，将其替换为用户预设误差阈值下性能最佳的参数组合下的快速矩阵乘法函数； 在查找到目标通用矩阵乘法函数且其ID出现在函数调用ID列表但不存在于被替换目标函数ID列表时，在其前后插入计时函数并将计时结果及ID输出至优化数据记录文件； 将该通用矩阵乘法函数替换为多层循环嵌套的快速矩阵乘法函数； 插入计时器并调用误差计算函数，计算其快速矩阵乘法函数的输出矩阵和原目标函数结果矩阵之间的平均误差和最小误差； 将当前目标函数ID、当前参数组合、当前快速矩阵乘法函数运性时间和误差结果输出至优化数据记录文件； 根据整体位码文件生成可执行文件并在给定输入下运行，获取每个替换原通用矩阵乘法函数的最佳参数组合下的快速矩阵乘法函数； 所述第三次优化的具体步骤包括： 读取矩阵维度记录文件，计算最大需要的额外内存空间并生成内存池； 读取优化数据记录文件，按顺序读取每个函数ID的数据，计算出用户给定误差阈值下性能最佳的参数组合并将当前函数ID对应的原目标函数替换为特定参数组合下的快速矩阵乘法函数，得到优化后的代码； 根据优化后代码生成可执行文件。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中山大学，其通讯地址为：510275 广东省广州市海珠区新港西路135号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。