本文提出显著诊断价值感知方法(SDVP),用于后颅窝肿瘤的术前准确诊断。该方法整合MRI影像与放射学报告,从三个互补视角学习关键诊断线索:通过对抗性样本内对比学习增强跨中心与设备差异的鲁棒性;借助知识增强的样本内对比学习提取专家引导的样本特异性特征;并在干净MRI样本上进行监督式类间对比学习以强化类别特征。
本文提出细粒度补丁对齐网络(FG-PAN),用于脑肿瘤亚型的零样本分类。该方法包含局部特征细化模块,通过建模代表性补丁间的空间关系增强视觉特征;以及细粒度文本描述生成模块,利用大语言模型生成病理感知的类别语义原型。通过对齐细粒度视觉与语义特征,并引入坐标感知聚合机制,FG-PAN在整张病理切片级别实现了更准确的亚型判别,缓解了标注数据稀缺和形态差异细微带来的挑战。
本文提出MeDKCoOp,一种面向生物医学视觉语言模型的双知识引导图提示学习方法。该方法系统整合医学领域知识,从文本与视觉分支提取专门知识并构建图结构表示,通过知识引导的关系转移实现跨模态融合,并动态优化可学习提示,以增强CLIP等模型在医学下游任务中的适应能力。实验表明其在多个生物医学基准上取得优异性能。
本文针对多模态大语言模型在多模态上下文学习中的演示序列配置问题,提出一种基于聚类的上下文配置方法。该方法自适应地对候选数据进行分组,并从每个簇中选取演示样本,以增强序列内多样性并保持语义一致性,从而减少高相似演示带来的归纳偏置,使模型更关注演示的主要意图。在OK-VQA、VQAv2、VizWiz和TextVQA四个视觉问答基准上的实验验证了其有效性。
本文针对脑肿瘤多模态MRI诊断中融合策略受限于样本稀缺的问题,提出多模态监督对比学习方法MMSupcon。该方法通过多模态医学图像融合生成信息丰富的样本,并设计多模态监督对比损失,引导模型有效整合互补模态信息,提升诊断准确性。
本文提出一种可学习排序状态空间模型(LS3M),用于不完整多模态脑肿瘤分割。该方法基于Mamba架构高效建模长距离依赖,并引入可微置换矩阵,根据模态特定特征对输入序列进行动态重排序,从而保留3D脑MRI中关键的空间归纳偏置与长程语义相关性。LS3M能够充分利用可用模态信息,提升分割性能。