买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:浙江工业大学
摘要:一种基于分层异构图神经网络提取教育视频文本摘要的方法,首先通过OCR技术和ASR技术提取教育视频中图像和音频中的文本内容,并采用预训练的Glove模型获得单词和句子的初始嵌入;随后使用时空协同协作方式获得句子的初始特征;根据文档中句子和单词的关系,构建出了三种不同层次的文档图,并且利用图注意力神经网络在三种层次的文档图中捕捉到文档中不同的关联关系;最后采用LSTM和线性层计算各个句子的重要性分数,并采用φ元组阻塞策略和Top‑K算法得到最终的教育视频文本摘要内容。本发明捕捉到了句子更为深层的语义特征并且挖掘了文档中的各种关联关系,从而提高教育视频文本摘要生成的效果。
主权项:1.一种基于分层异构图神经网络提取教育视频文本摘要的方法,其特征在于,所述方法包括以下步骤:步骤S1、从教育视频中分别分离出对应的音频和每一帧的图像:从图像中获取出其中的文字内容,从音频中获得对应的文字内容,将图片得到的文字内容和音频中获得的文字内容一同形成为对应的文档信息;步骤S2、利用得到的文档信息生成文档中单词的嵌入Xw和句子的嵌入Ts,句子嵌入Ts通过时空学习模块,得到对应的句子的时空特征Xs;步骤S3、通过文档中的各个实体之间的关系,构建出三种不同层次的图,分别是单词-单词图单词-句子图句子-句子图步骤S4、将句子的特征Xs、单词的嵌入Xw和不同层次的图共同输入到分层异构图网络,得到句子的增强特征步骤S5、句子的增强特征经过摘要生成模块,得到文档的摘要。
全文数据:
权利要求:
百度查询: 浙江工业大学 基于分层异构图神经网络提取教育视频文本摘要的方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。