龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：广州趣丸网络科技有限公司
申请日：2022-12-29
公开（公告）日：2023-06-23
公开（公告）号：CN116304125A
主分类号：G06F16/432
分类号：G06F16/432;G06F16/483;G06F16/33;G10L25/63;G06N3/08;G06N3/0464
优先权：
专利状态码：在审-实质审查的生效
法律状态：2023.07.11#实质审查的生效;2023.06.23#公开
摘要：本申请提供一种内容审核自动处罚方法、装置、设备及可读存储介质，本申请实施例提供的方法可以利用语气情绪分析模型来分析所述待审核的内容中的语气情绪信息，可以有效提高对所述待审核的内容的审核结果的准确度，同时利用文本违规检测模型所述待审核的内容对应文本信息，可以进一步地，还可以利用多模态违规检测模型来融合分析所述待审核的内容的语气情绪审核结果以及文本信息审核结果，并在确定所述待审核的内容存在违规的内容之后，可以自动确定并执行对所述待审核的内容的自动处罚措施，可以有效提高对所述待审核的内容的审核准确度以及审核效率，同时还可以有效降低人工审核的成本，提高对违规行为的处罚时效性。
主权项：1.一种内容审核自动处罚方法，其特征在于，包括：获取所述待审核的内容；将所述待审核的内容输入预设的语气情绪检测模型进行分析，得到所述预设语气情绪检测模型输出的情绪审核结果，其中，所述预设的语气情绪检测模型以训练所述待审核的内容为训练样本，以所述训练所述待审核的内容中包括的每一种语气的概率作为样本标签训练得到；将所述待审核的内容输入预设的文本违规检测模型进行分析，得到所述预设的文本违规检测模型输出的文本审核结果，其中，所述预设的文本违规检测模型以训练所述待审核的内容为训练样本，以所述训练所述待审核的内容中包括的每一种文本违规的概率作为样本标签训练得到；将所述情绪审核结果和所述文本审核结果输入预设的多模态违规检测模型进行分析，得到所述待审核的内容的违规审核结果，其中，所述预设的多模态违规检测模型以训练所述待审核的内容的情绪审核结果以及文本审核结果作为训练样本，以所述训练所述待审核的内容的违规结果作为样本标签，训练得到；依据所述待审核的内容的违规审核结果，判断所述待审核的内容是否违规；若确定所述待审核的内容违规，则依据预设的自动处罚条件，确定并执行对所述待审核的内容的自动处罚措施。
全文数据：
权利要求：
百度查询： 广州趣丸网络科技有限公司 内容审核自动处罚方法、装置、设备及可读存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号