关键词:
集成成像
医学影像
立体显示技术
光场采集
虚拟视点合成
摘要:
立体显示技术能表现出三维场景的深度信息,更好的反映出物体的形貌特点和空间分布。医学场景下引入立体显示技术使医学数据的显示效果更加逼真,深度信息更加准确、视场范围更宽广,能切实提升术前规划、术中引导、远程诊断与医疗培训等活动的有效性。集成成像技术作为一种裸眼立体显式技术在医学、生物学、混合现实等领域中有极大潜在应用价值,正受到国内外研究者越来越多的关注。集成成像系统实现正确的三维立体显示需要准确生成单元图像阵列(Elemental Image Array,EIA)。利用传统的透镜直接采集方式生成的EIA在成像阶段会出现深度反转的赝像,且该三维图像分辨率不高。因此研究者们不断探索各种通过计算直接生成单元图像阵列的方法,在提高成像分辨率和灵活性的同时一并解决深度反转问题。其中,利用相机阵列获取多视点图,再通过对视点图编码生成单元图像阵列的方法虽然相对成熟,但该技术依赖位置准确的规则相机阵列,标定难度大,拍摄区域局限且固定。而对于一些特殊场合如医学内窥镜手术场景来说,相机阵列的部署方案更难以实现。因此,如何根据有限且相对随机视角下的源图像预测虚拟视角下的结果,通过视点漫游实现集成成像所需的单元图像阵列生成,具有十分重要的研究价值。本文以三维医学模型和二维腹腔镜视频数据为对象,对集成成像中的单元图像阵列生成方法进行了研究,以实现多种医学场景下的裸眼立体显示,主要包括以下研究内容:(1)基于三维医学模型数据的单元图像阵列生成方法。基于光栅化表面绘制和光线投射体绘制这两种目前最常用的图形渲染范式,本文使用GLSL(Open GL Shading Language,Open GL着色语言)对三维医学数据进行渲染,生成单元图像阵列。通过使用颅骨、心脏和胸腔的三维面数据模型和使用口腔CBCT扫描得到的体数据模型生成EIA并再现了立体像,对提出方法的有效性进行了验证。此外本文使用Open GL验证了一种基于纹理单元重映射的EIA生成方法,该方法无需通过背面绘制或智能像素映射就可以得到无深度反转的立体再现效果,可直接应用于后续腹腔镜场景的EIA生成。(2)基于局部光场融合理论的腹腔镜场景下单元图像阵列生成方法。对于内窥镜采集的自由视角图片,首先通过3D卷积网络生成各视角下的光场多层平面图(Multi Plane Image,MPI)。对于待获取的虚拟新视点,选取与虚拟视角最接近的几个视角对应的MPI,对MPI渲染结果做透明度加权混合,得到与集成成像显示系统视点参数相匹配的虚拟视点图,完成单元图像阵列的生成。(3)基于神经辐射场理论的腹腔镜场景下单元图像阵列生成方法。本文利用腹腔镜手术视频帧对多层感知机(Multi-Layer Perceptron,MLP)模型进行训练,建立对腔镜手术下三维场景的隐式表达,实现对腔镜三维场景内传播的光线上若干采样点的颜色和不透明度预测。对于集成成像所需的各虚拟视点,通过训练好的多层感知机即可输出对应视点的图像,再进而完成单元图像阵列的生成。此外针对Ne RF训练慢的问题本文尝试使用稀疏体素格点结合球谐光照插值的可微渲染方法进一步加快光场隐式建模的速度,在不损失虚拟视点图像质量的情况下提高了训练效率。