关键词:
深度学习
医学图像处理
辅助诊断算法
可变形卷积
摘要:
作为一种新颖的深度学习网络层,可变形卷积近年来因为其独特的适应能力和较好的性能表现得到领域内广泛认可。本工作的主要研究目的是探究可变形卷积在医学影像分析中的应用,在网络中引入了可变形卷积,并辅以一些其它新颖的模块或机制,以此针对性地提高模型在某些特定疾病中的预后预测性能。从基础的单切片研究,深入到多切片研究,最后延伸到多序列研究,随着临床应用场景的逐渐复杂化,对深度学习算法逐步提出了更高要求。按照数据维度、问题复杂度、关键问题层次均不断递增的顺序,逐渐将可变形卷积的应用研究引向深入。同时,以临床价值为导向,分析各种疾病辅助诊断的难点。
自本研究开展以来,针对基于深度学习的医学影像辅助诊断算法展开了深入的研究。本工作主要研究了目前较新的可变形卷积,不断改进可变形卷积的内部设计,并依托医学领域中多个实际的临床问题依次开展验证。主要的工作包括:
·基于单张典型切片的空间信息提取研究中,选取乳腺癌患者的腋下淋巴结转移性为研究对象,分析其小目标问题、特征提取问题、信息传递问题。回顾性分析对比增强计算机断层扫描(Contrast-enhanced Computed Tomography,简称CECT)图像的特殊性和诊断腋下淋巴结是否转移的可行性。在目前临床诊断的背景下,充分考虑医院应用辅助诊断的实际需求,针对局部病灶样本较小的情况,重点研究了多尺度特征融合机制,设计了跨尺度的跳跃连接用于形成不同尺度的信息互通。在可变形卷积层的基础上进一步改进可变形机制,融合卷积注意力模块的空间注意力,设计出了可变形降维模块,在新维度上融合不同尺度的特征图并对其实现特征降维。基于VGG19网络结构进行改进,参考Res Net中的残差结构,设计了多尺度残差结构的可变形VGG19模型,将可变形降维模块以即插即用方式,替代模型中的多个池化层。在对比实验中,可变形VGG19模型在指标上的表现和综合性能均超过其它模型。通过消融实验证明了可变形降维模块内特征融合机制和注意力机制的有效性,也将可变形降维模块应用于VGG16结构上,同样实现了模型性能提升,证明了模块作为即插即用模块的兼容性。
·基于多切片CECT序列的上下文信息融合研究中,选取肝硬化患者的食管胃静脉曲张破裂复发出血症状为研究对象,分析其切片筛选问题、轻量结构设计问题、上下文结合问题。回顾性分析五年内登记病例的CECT图像序列和一年随访的结果。预先采用肝脏、食管下段和脾脏三个器官数据作为分析对象,开展器官与术后复发出血的关联性研究,从而得到后续筛选切片的依据。基于可变形机制,参考Mobile Net中的深度可分离卷积结构的搭建,设计了可变形分离卷积模块,不仅具有在全维度上的采样能力,也能融合相邻切片的上下文信息。利用2D-CNN、3D-CNN、可变形分离卷积模块等多种结构,精心设计了变形多切片融合网络,通过特征提取器、多层信息融合子网络、立体信息整合子网络三部分处理CECT序列的海量信息。通过实验对比三种典型图像序列网络结构与提出的多切片融合网络,本工作模型在大多数指标上表现最优,ROC曲线和P-R曲线中反映的AUC和F1-Score指标也验证了综合性能。通过两组消融实验,分别证明了可变形分离卷积模块和多切片融合网络的设计合理性。最后对神经网络进行可视化,纳入测试集中前三个阳性样本和前三个阴性样本分析,以增强研究工作的可解释性。
·基于核磁共振成像(Magnetic Resonance Imaging,简称MRI)多序列的模态间信息交互研究中,选取宫颈癌患者的肿瘤分期为研究对象,分析其小样本问题、序列统一问题、多序列交互问题。系统地调研了现有的相关研究成果,结合医学临床病理与影像成像原理,分析特征图中各个维度的物理意义。针对突出的小样本问题,为了缓解过拟合现象,设计了一种特殊的针对顺序排列样本的序列增强策略,在切片维度上增加数据多样性。在单序列多切片模型的基础上,研究序列间的信息融合机制,将Conv LSTM与可变形卷积深度融合,形成可变形Conv LSTM模块,使网络有能力在序列内信息整合阶段充分融合各个切片上的信息,将有价值信息从庞大的数据中提炼出来。针对宫颈癌患者MRI的多个影像序列数据,设计了新颖的多模态联合分析模型,利用最终通过实验论证了提出方案的有效性,实现对病例MRI多个序列的分期预测,同时也探讨了不同模态数据的分期价值以及多类别分期任务的可行性。
本工作针对基于深度学习的医学影像辅助诊断算法展开了深入的研究,主要研究了目前较新的可变形卷积,并依托医学领域中多个实际的临床问题依次开展验证,包括腋下淋巴结转移性分析、食管胃静脉曲张破裂复发出血预测、宫颈癌肿瘤分期。多项研究分别实现了对淋巴结病灶转移性的精确分类、序列多切片融合预测术后复发出血概率、肿瘤分期的多序列联合预测,在多项指标上超