• 学术研究 • 下一篇
邓兴宇,王龙业,曾晓莉,叶浩,车熹昊
DENG Xingyu, WANG Longye, ZENG Xiaoli, YE Hao, CHE Xihao
摘要: 现有多模态虚假新闻检测方法在图像多层次频域信息利用和模态间信息深度交融方面存在局限,难以充分挖掘图像的潜在特征及多模态特征之间的相关性,进而影响检测性能。虚假新闻图像在传播过程中通常经历多次压缩或篡改操作,从而引发频域异常响应,传统方法多依赖傅里叶变换提取频域特征,但其全局频域分析会丢失局部篡改痕迹,且无法实现多尺度特征解耦。为了深入发掘并充分利用这些关键特征及其内在联系,提升虚假新闻检测效能,一种注意力引导多模态特征融合的虚假新闻检测方法(AGMFN)被提出。该方法使用基于小波变换的双路径特征提取模块对图像的多层次频域信息进行建模,通过二级小波分解捕获低频全局结构与高频局部异常,并结合特征增强卷积强化细节特征。同时,预训练模型与频域特征提取模块分别提取文本、图像和频域特征,构建物理取证与语义线索的联合鉴别框架。为实现多模态特征融合并捕捉不同模态之间的深度关联特性,设计了一种基于注意力机制的长序列特征融合模块,引入指数递减加权系数建模不同模态之间的长期依赖关系,解决传统拼接融合的时序失配问题。通过跨模态注意力实现了文本-频域-视觉的层次化融合,在保持计算效率的同时增强虚假新闻判别能力。实验结果表明,AGMFN在Weibo数据集和Twitter数据集上的分类准确率分别达到了0.917和0.847,优于现有基线模型。可视化实验进一步验证了融合后的多模态特征具有更强的泛化能力,提高了虚假新闻的识别效果。