龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：南京工程学院
申请日：2024-03-22
公开（公告）日：2024-06-11
公开（公告）号：CN118170962A
主分类号：G06F16/951
分类号：G06F16/951;G06F16/955;G06F16/906;G06F18/2415;G06N20/00
优先权：
专利状态码：在审-实质审查的生效
法律状态：2024.06.28#实质审查的生效;2024.06.11#公开
摘要：本发明公开了一种基于PTB模型的主题爬虫方法、系统及存储介质，属于计算机网络信息获取技术领域，方法包括：依次爬取种子URL集，获取种子URL集内部的所有URL链接并依次放入URL队列中；对URL队列中的URL链接进行过滤，并对经过过滤的URL连接依次进行页面解析，获取相应的页面链接和页面内容；基于改进的PageRank算法，对页面连接进行链接主题度计算，获取链接主题度；基于改进的贝叶斯分类算法，对页面内容进行内容主题度计算，获取内容主题度；基于PTB模型，根据连接主题度和内容主题度，计算主题相关度，并将主题相关度小于预设阈值的网页舍弃，将主题相关度大于或等于预设阈值的网页存储至数据库。该方法能够提高主题爬虫方法和系统中主题度判别的精度。
主权项：1.一种基于PTB模型的主题爬虫方法，其特征在于，包括：基于用户确定所要采集的主题关键词和主题相关的种子URL集，向Web服务器发出请求并获取爬取响应，依次爬取种子URL集，获取种子URL集内部的所有URL链接并依次放入URL队列中；对URL队列中的URL链接进行过滤，并对经过过滤的URL连接依次进行页面解析，获取相应的页面链接和页面内容；基于改进的PageRank算法，对所述页面连接进行链接主题度计算，获取链接主题度；基于改进的贝叶斯分类算法，对所述页面内容进行内容主题度计算，获取内容主题度，并将内容主题度计算中不相关的网页舍弃；基于PTB模型，根据所述连接主题度和内容主题度，计算主题相关度，并将主题相关度小于预设阈值的网页舍弃，将主题相关度大于或等于预设阈值的网页存储至数据库。
全文数据：
权利要求：
百度查询： 南京工程学院 一种基于PTB模型的主题爬虫方法、系统及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号