龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：天翼安全科技有限公司
申请日：2024-04-16
公开（公告）日：2024-06-25
公开（公告）号：CN118246446A
主分类号：G06F40/284
分类号：G06F40/284;G06F40/216;G06F40/30;G06F21/57
优先权：
专利状态码：在审-公开
法律状态：2024.06.25#公开
摘要：本申请涉及自然语言处理技术领域，尤其涉及一种语料生成方法、装置、电子设备和存储介质，用以提高生成的攻击语料的有效性。其中，方法包括：收集训练攻击语料集、第一问答语料集和第二问答语料集；基于训练攻击语料集，对语料生成模型进行预训练；将第一问答语料集和第二问答语料集输入预训练后的语料生成模型，生成包含至少一个混合攻击语料的混合攻击语料集；对于每个混合攻击语料，将混合攻击语料输入目标大语言模型，获得相应的攻击度评估参数；基于获得的攻击度评估参数，从混合攻击语料集中筛选语料组成目标攻击语料集。由于本申请通过设置攻击度评估参数，对生成的混合攻击语料进行了筛选，挺高了目标攻击语料的有效性。
主权项：1.一种语料生成方法，其特征在于，所述方法包括：收集训练攻击语料集、第一问答语料集和第二问答语料集；所述训练攻击语料集包含：在问答过程中，用于使目标大语言模型回复敏感信息的训练攻击语料；所述第一问答语料集包含：问答内容达到预设可信度的第一问答语料，所述第二问答语料集包含：问答内容未达到预设可信度的第二问答语料；基于所述训练攻击语料集，对语料生成模型进行预训练；将所述第一问答语料集和所述第二问答语料集输入预训练后的语料生成模型，生成包含至少一个混合攻击语料的混合攻击语料集；对于每个所述混合攻击语料，将所述混合攻击语料输入所述目标大语言模型，获得相应的攻击度评估参数；所述攻击度评估参数表示：针对所述混合攻击语料，所述目标大语言模型回复敏感信息的概率；基于获得的攻击度评估参数，从所述混合攻击语料集中筛选语料组成目标攻击语料集。
全文数据：
权利要求：
百度查询： 天翼安全科技有限公司 一种语料生成方法、装置、电子设备和存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号