Explore / 内容索引

跨模态融合

Seeing the unseen: Zooming in the dark with event cameras

本文提出RetinexEVSR,首个事件驱动的低光视频超分辨率框架。该框架利用高对比度事件信号与Retinex先验,通过双向跨模态融合策略,有效整合噪声事件数据与退化RGB帧中的有用信息。其中,照明引导事件增强模块利用Retinex模型导出的光照图逐步细化事件特征,抑制低光伪影并保留高对比度细节;事 …

查看内容 ↗

EvTexture++: Event-Driven Texture Enhancement for Video Super-Resolution

本文提出EvTexture++,一种事件驱动的视频超分辨率纹理增强框架。与以往将事件用于运动估计不同,该方法利用事件的高频时空细节显式恢复纹理,通过定制纹理增强分支和迭代纹理增强模块,逐步挖掘高时间分辨率事件信息,实现纹理区域的渐进细化,从而生成更精确、细节更丰富的高分辨率视频。该框架还可作为即插即 …

查看内容 ↗

MeDKCoOp: Dual Knowledge-guided Graph Prompt Learning for Biomedical Vision-Language Models

本文提出MeDKCoOp,一种面向生物医学视觉语言模型的双知识引导图提示学习方法。该方法系统整合医学领域知识,从文本与视觉分支提取专门知识并构建图结构表示,通过知识引导的关系转移实现跨模态融合,并动态优化可学习提示,以增强CLIP等模型在医学下游任务中的适应能力。实验表明其在多个生物医学基准上取得优 …

查看内容 ↗

Efficient event-based semantic segmentation via exploiting frame-event fusion: A hybrid neural network approach

本文提出一种高效的混合神经网络框架,用于事件相机语义分割。该框架包含处理事件流的脉冲神经网络(SNN)分支和处理帧图像的人工神经网络(ANN)分支,并设计了自适应时间加权(ATW)注入器、事件驱动稀疏(EDS)注入器和通道选择融合(CSF)模块,以充分融合帧与事件的互补时空信息。 …

查看内容 ↗

Multi-modal diffusion network with controllable variability for medical image segmentation

本文提出一种具有可控变异性的多模态扩散分割网络(MMDSN),用于医学图像分割。该方法通过医学文本注释实现多模态条件控制,增强视觉语义表示的一致性,并建立视觉与语言之间的对应关系。同时,MMDSN 在潜在高斯空间中对多个时间步的不确定性分布进行约束,从而控制每个去噪时间步的变异性,减少扩散模型随机采 …

查看内容 ↗

Asymmetric event-guided video super-resolution

本文首次提出非对称事件引导的视频超分辨率任务,针对事件相机与RGB相机难以严格标定的实际场景,构建了非对称事件引导视频超分辨率网络(AsEVSRN)。该网络通过专门设计的事件特征利用与跨模态融合机制,充分发挥事件相机高时间分辨率优势,有效提升视频超分辨率性能,拓展了事件相机在双摄手机、无人机等新兴高 …

查看内容 ↗

Event-assisted low-light video object segmentation

本文针对低光照条件下视频目标分割(VOS)性能严重下降的问题,提出一种利用事件相机数据辅助分割的新框架。该方法包含两个关键模块:自适应跨模态融合(ACMF)模块,用于提取并融合图像与事件模态特征以抑制噪声干扰;事件引导记忆匹配(EGMM)模块,用于修正低光下查询帧与记忆帧之间的相似度计算误差。实验表 …

查看内容 ↗

Video super-resolution via event-driven temporal alignment

本文提出一种事件驱动的双向视频超分辨率框架(EBVSR),利用事件相机的高时间分辨率特性捕捉非线性运动,并设计事件辅助的时间对齐模块,以补充光流法在快速光照变化下的不足。同时构建基于事件的帧合成模块,通过双向跨模态融合增强网络对光照变化的鲁棒性。在合成和真实数据上的实验验证了该方法在视频超分辨率任务 …

查看内容 ↗

Multimodal sentiment analysis with preferential fusion and distance-aware contrastive learning

本文针对多模态情感分析中文本模态与情感标签之间存在的虚假关联问题,提出了一种名为PriSA的新框架。该框架首先通过优先跨模态融合方法,利用文本模态引导计算跨模态相关性;随后引入距离感知对比学习,利用情感标签之间的距离信息进一步计算混合模态相关性;最终基于混合模态相关性和判别性类内特征识别情感信息。实 …

查看内容 ↗