Image fusion aims to synthesize a single high-quality image from a pair of inputs captured under challenging conditions, such as differing exposure levels or focal depths. A core challenge lies in effectively handling disparities in dynamic range and focus depth between the inputs. With the advent of vision-language models, recent methods incorporate textual descriptions as auxiliary guidance to enhance fusion quality. However, simply incorporating coarse-grained descriptions hampers the understanding of fine-grained details and poses challenges for precise cross-modal alignment. To address these limitations, we propose Multi-grained Text-guided Image Fusion (MTIF), a novel fusion paradigm with three key designs. First, it introduces multi-grained textual descriptions that separately capture fine details, structural cues, and semantic content, guiding image fusion through a hierarchical cross-modal modulation module. Second, it involves supervision signals at each granularity to facilitate alignment between visual and textual features and enhance the utility of auxiliary text. Third, it adopts a saliency-driven enrichment module to augment training data with dense semantic content, further strengthening the cross-modal modulation and alignment. Extensive experiments show that MTIF consistently outperforms previous methods on both multi-exposure and multi-focus image fusion tasks.


翻译:图像融合旨在从一对在挑战性条件下(如不同曝光水平或焦距深度)捕获的输入图像中合成单张高质量图像。其核心挑战在于有效处理输入图像之间动态范围和聚焦深度的差异。随着视觉-语言模型的出现,近期方法引入文本描述作为辅助引导以提升融合质量。然而,仅融入粗粒度描述会阻碍对细粒度细节的理解,并为精确的跨模态对齐带来挑战。为应对这些局限性,本文提出多粒度文本引导图像融合(MTIF),一种具有三项关键设计的新型融合范式。首先,它引入多粒度文本描述,分别捕获细节特征、结构线索与语义内容,并通过分层跨模态调制模块引导图像融合。其次,它在每个粒度层级引入监督信号,以促进视觉与文本特征的对齐,并增强辅助文本的效用。第三,它采用显著性驱动的增强模块,通过密集语义内容扩充训练数据,进一步强化跨模态调制与对齐。大量实验表明,MTIF在多曝光与多聚焦图像融合任务上均持续优于现有方法。

0
下载
关闭预览

相关内容

Python图像处理,366页pdf,Image Operators Image Processing in Python
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员