申请/专利权人：上海帜讯信息技术股份有限公司

申请日：2024-03-26

公开（公告）日：2024-06-18

公开（公告）号：CN117951673B

主分类号：G06F21/32

分类号：G06F21/32;G06V10/82;G06V40/16;G06V20/40;G06N3/0464;G06N3/08

优先权：

专利状态码：有效-授权

法律状态：2024.06.18#授权;2024.05.17#实质审查的生效;2024.04.30#公开

摘要：本发明公开了一种反AI诈骗的方法、电子设备，其中方法包括：当目标登录账号接收到交互请求时，获取请求用户端的账号；基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号；如果属于风险账号，基于所述交互请求指示的内容，利用预设的风险识别规则对所述内容进行风险识别，以确定所述内容是否为基于人工智能生成的内容，其中，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果后，基于预设的权重值确定目标风险识别结果；基于所述目标风险识别结果，在所述目标登录账号所在的用户端界面中呈现预设提示内容。基于AI实现基于AI诈骗的识别，能够帮助用户最大程度降低被诈骗的风险。

主权项：1.一种反AI诈骗的方法，其特征在于，包括：当目标登录账号接收到交互请求时，获取请求用户端的账号；基于风险账号识别规则确定所述请求用户端的账号是否属于风险账号；如果属于风险账号，基于所述交互请求指示的内容，利用预设的风险识别规则对所述内容进行风险识别，以确定所述内容是否为基于人工智能生成的内容，其中，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果后，基于预设的权重值确定目标风险识别结果；基于所述目标风险识别结果，在所述目标登录账号所在的用户端界面中呈现预设提示内容；其中，对所述内容包含的不同交互类型的内容分别进行风险识别得到子风险识别结果包括：如果所述交互请求中的内容为图片，基于训练完成的生成对抗网络判别所述内容进行判别；如果所述交互请求中的内容为视频文件，基于所述生成对抗网络对所述内容进行判别，以判断出视频文件是否是人工智能生成的视频；如果所述交互请求中的内容为实时视频，基于训练完成的网络模型识别是否是声控视频；和或，如果所述交互请求中的内容为包含人脸的实时视频，则基于卷积神经网络确定所述人脸是否为换脸后的人脸图像；训练网络模型以识别是否是声控视频包括：获取声控视频作为样本集，将样本集作为输入对循环神经网络模型进行训练，其中，所述循环神经网络模型为；其中，是输入向量，是隐藏状态向量在时间步t时刻隐藏状态，是前一刻的隐藏状态向量，作为当前状态的输入，是输入权重矩阵，隐藏状态权重矩阵，b是偏执项，f是激活函数；将待识别的交互请求中的实时视频输入至所述循环神经网络模型中，输出第一识别结果；将待识别的交互请求中的实时视频输入至训练完成的所述生成对抗网络中，输出第二识别结果；基于预设的识别权重，两种识别方式得到结果，利用加权求和方式计算第一最终识别结果；基于所述最终识别结果与第一预设阈值的大小关系，判定是否是声控视频。

全文数据：

权利要求：

百度查询： 上海帜讯信息技术股份有限公司 一种反AI诈骗的方法、电子设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD