买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜哈尔滨工业大学申请的专利一种基于预训练模型的网络安全命名实体识别数据增广方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119204011B 。

龙图腾网通过国家知识产权局官网在2025-05-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411190945.4，技术领域涉及：G06F40/295；该发明授权一种基于预训练模型的网络安全命名实体识别数据增广方法是由武跃;叶麟;苏雨恒;万梦丹;王祎雯;张宏莉设计研发完成，并于2024-08-28向国家知识产权局提交的专利申请。

本一种基于预训练模型的网络安全命名实体识别数据增广方法在说明书摘要公布了：本发明公开了一种基于预训练模型的网络安全命名实体识别数据增广方法，属于网络数据安全技术领域。解决了现有技术中传统的网络安全命名实体识别数据增广方法易导致识别文本语义错误的问题；本发明给定标注集合和输入序列，根据标注规则生成标注序列，对输入序列进行分句处理；对输入序列的文本片段的长度进行替换，得到片段集合；根据标注集合，对片段集合进行掩码操作，得到新片段集合，利用BERT模型对新片段集合进行预测，得到增广后的数据集；使用BERT模型计算得到连续概率并搜索相邻句子概率矩阵打乱句子顺序，得到最终增广后的数据集。本发明有效提升了所生成增广数据的质量，减少了过拟合现象，可以应用于数据增广。

本发明授权一种基于预训练模型的网络安全命名实体识别数据增广方法在权利要求书中公布了：1.一种基于预训练模型的网络安全命名实体识别数据增广方法，其特征在于，包括以下步骤：S1.给定标注集合和输入序列，根据标注规则生成标注序列，对输入序列进行分句处理，得到子序列和标注子序列；S2.对输入序列的文本片段的长度进行替换，即根据子序列和标注子序列截断超出预设的输入文本片段的最大长度的片段的后续内容，得到片段集合；S3.根据标注集合，对片段集合进行掩码操作，得到新片段集合，利用BERT模型对新片段集合进行预测，得到增广后的数据集；S4.根据增广后的数据集，生成相邻句子对得到相邻句子概率矩阵，使用BERT模型计算得到连续概率并搜索相邻句子概率矩阵打乱句子顺序，得到最终增广后的数据集；所述S3中，对于元素si中的每一个单词xi，如果其对应的标记yi为实体，则不进行掩码操作，如果对应的标记yi不属于任何实体，则生成随机数r，r∈[0，1]，如果随机数r小于替换概率P，则将单词xi替换为掩码[MASK]，得到含有掩码[MASK]的新片段集合Smask；替换概率P表示为： 增广后的数据集表示为： 所述S4中，对于增广后的数据集中的每个句子生成所有相邻句子对其中，i≠j且j≠i+1，使用BERT模型计算得到所有两个句子的组合为相邻句子对的连续概率Pij，整合所有连续概率Pij得到相邻句子概率矩阵P'；连续概率Pij计算过程表示为： Pij＝softmaxBERTInput其中，[CLS]和[SEP]为BERT模型的特殊特征token，[CLS]表示片段文本的开始即一段话的首句，[SEP]表示片段文本中除首句的分句，softmax为激活函数，Input表示BERT模型的当前输入，为第一句子，为与相邻的第二句子；采用BERT模型从相邻句子概率矩阵P'第一行进行搜索，选取第一行中最大连续概率Pijmax，以第二句子作为第一行中最大连续概率对应的句子的下一句话，同时将最大连续概率Pijmax置为0，重复上述搜索操作，遍历相邻句子概率矩阵P'第j行，选取第j行中最大连续概率Pjk，将相邻句子作为第j行中最大连续概率Pjk对应的句子即第二句子的下一句话，同时将第j行中最大连续概率Pjk置为0，重复上述搜索操作，直到增广后的数据集的每一个元素顺序重新分配完毕，结合输入序列X得到最终增广后的数据集。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人哈尔滨工业大学，其通讯地址为：150001 黑龙江省哈尔滨市南岗区西大直街92号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。