买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：晋城市大锐金马工程设计咨询有限公司

摘要：本发明公开了一种基于改进SwinTransformer的文本广告嵌入方法，包括待融合杂志文本页、待融合杂志广告页、数据预处理层、图像数据编码层、注意力损失计算层、迭代更新层和融合输出层；所述图像数据编码层包括多头自注意力层和前馈网络层；本发明属于图像处理技术领域，具体是指一种基于改进SwinTransformer的文本广告嵌入方法；可以有效解决将杂志广告与杂志文本进行融合，有效提升纸张的利用率；本发明提供一种自动化的杂志广告嵌入处理方式，节省了人工劳动力；本发明使用改进的SwinTransformer，可方便实现并行计算和分布式计算，加快了数据处理速度；本发明可方便的使用Pytorch或Tensorflow进行搭建；不存在训练阶段，可直接进行迭代更新的有点。

主权项：1.一种基于改进SwinTransformer的文本广告嵌入方法，包括待融合杂志文本页、待融合杂志广告页、数据预处理层、图像数据编码层、注意力损失计算层、迭代更新层和融合输出层：所述图像数据编码层包括多头自注意力层和前馈网络层：待融合杂志文本页为杂志内除广告以外的论文或期刊文章的内容页，在初始排版时文件格式为doc文件，进行后续的处理需将其格式转换为JPG格式或PNG格式，对待融合杂志文本页的尺寸reshape操作，得到尺寸为H×W×C，记为Text_Page；待融合杂志广告页为杂志内的广告页面，在进行后续的处理时需将其转换为JPG格式或PNG格式，所述待融合杂志广告页的尺寸reshape操作，得到尺寸为H×W×C，记为Ad_Page；所述自注意力层用于比较每个小正方形区域之间相关性并得到抽象语义特征，可解决信息量过大带来的算力不足的问题，具体计算步骤如下：S1、生成每个分量的取值范围在-1到1之间的特征矩阵L、M和N，将特征矩阵L、M和N设置为不可修改，其中特征矩阵L、M和N的形式均为：L＝[l1，l2，…，lN]TM＝[m1，m2，…，mN]TN＝[n1，n2，…，nN]T其中，特征矩阵L、M和N的每个分量的维度均为P×P×C×1；S2、通过特征矩阵L、M和N生成查寻矩阵IN、键矩阵K和值矩阵V，具体计算方式为：IN＝X×LTK＝X×MTV＝X×NT其中：IN＝[in1,in2，…，inN]TK＝[k1，k2，…，kN]TV＝[v1，v2，…，vN]TS3、计算注意力分布，具体计算公式为： 根据注意力分布对输入信息进行加权平均： 上式中，Atti为的维度为N×1；所述前馈网络层，包括BP神经网络，所述BP神经网络的个数为N个，所述BP神经网络包括前馈输入层和中间隐层和前馈输出层构成，其中前馈输入层含有N个神经元，中间隐层均含有P×C个神经元，前馈输出层含有P个神经元；前馈输入层的输入分别为Att1、Att2、...、AttN-1和AttN，分别将Att1、Att2、...、AttN-1和AttN输入到各自的BP神经网络中计算得到的前馈输出记为F1、F2、...、FN-1和FN，具体计算步骤为：Fi＝softmaxW1Atti+b1W2+b2i∈{1,2,…,N}上式中，b1表示中间隐层的偏置，b2表示前馈输出层的偏置，W1为中间隐层的内星权向量，W2为前馈输出层的内星权向量，其中的b1、b2、W1和W2设为不可训练，Fi为每个BP神经网络的输出，其维度均为P×1。

全文数据：

权利要求：

百度查询： 晋城市大锐金马工程设计咨询有限公司 一种基于改进Swin Transformer的杂志广告嵌入方法