All-in-One Degradation-Aware Fusion Models (ADFMs) as one of multi-modal image fusion models, which aims to address complex scenes by mitigating degradations from source images and generating high-quality fused images. Mainstream ADFMs rely on end-to-end learning and heavily synthesized datasets to achieve degradation awareness and fusion. This rough learning strategy and non-real world scenario dataset dependence often limit their upper-bound performance, leading to low-quality results. To address these limitations, we present LURE, a Learning-driven Unified REpresentation model for infrared and visible image fusion, which is degradation-aware. LURE learns a Unified Latent Feature Space (ULFS) to avoid the dependency on complex data formats inherent in previous end-to-end learning pipelines. It further improves image fusion quality by leveraging the intrinsic relationships between multi-modalities. A novel loss function is also proposed to drive the learning of unified latent representations more stable.More importantly, LURE seamlessly incorporates existing high-quality real-world image restoration datasets. To further enhance the model's representation capability, we design a simple yet effective structure, termed internal residual block, to facilitate the learning of latent features. Experiments show our method outperforms state-of-the-art (SOTA) methods across general fusion, degradation-aware fusion, and downstream tasks. The code is available in the supplementary materials.


翻译:多模态图像融合模型中的一体化退化感知融合模型旨在通过减轻源图像中的退化效应来应对复杂场景,并生成高质量的融合图像。主流的一体化退化感知融合模型依赖于端到端学习和大量合成数据集来实现退化感知与融合。这种粗略的学习策略和对非真实世界场景数据集的依赖往往限制了其性能上限,导致结果质量低下。为解决这些局限性,我们提出了LURE,一种面向红外与可见光图像融合的、具备退化感知能力的学习驱动统一表示模型。LURE通过学习一个统一潜在特征空间,避免了先前端到端学习流程中对复杂数据格式的内在依赖,并利用多模态间的内在关联进一步提升图像融合质量。我们还提出了一种新颖的损失函数,以使统一潜在表示的学习更加稳定。更重要的是,LURE能够无缝整合现有的高质量真实世界图像恢复数据集。为进一步增强模型的表示能力,我们设计了一种简单而有效的结构,称为内部残差块,以促进潜在特征的学习。实验表明,我们的方法在通用融合、退化感知融合及下游任务中均优于当前最先进的方法。代码已在补充材料中提供。

0
下载
关闭预览

相关内容

Python图像处理,366页pdf,Image Operators Image Processing in Python
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
VIP会员
相关基金
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员