摘要： An approach to treatment methods for glioblastoma multiforme tumor using partial differential equation and machine learning approaches.

关键词： 全局与局部特征   卷积神经网络   行人重识别   多分支网络  

摘要： 如今社会发展迅速,监控系统的使用提高了社会公共安全性。从这些监控视频中获取某个人的行踪轨迹,仅靠人工的方式排查效率很低,行人重识别技术便是为了解决此问题。行人重识别（Person re-identification Re ID）是对给定行人目标进行跨设备搜索,对于在当前摄像头下的行人目标,能够在其它不同的摄像头中将该行人目标识别,方便分析其行踪。本文采用卷积神经网络对行人重识别进行的研究如下:首先,论文对当前研究的各种算法做了一个总结,分析图像中的各种特征、数据集的选择、评价指标。通过比较各种网络模型的结构与性能,选择目前在行人重识别领域广泛应用的网络ResNet50作为基础网络,该网络由于残差结构的设计可以训练较深的模型。其次,通过对行人图像特征的研究,选择结合全局特征与局部特征的方式来作为网络的设计核心。全局特征的计算很快,对网络输出的特征图谱采用全局池化便可得到,它的缺点是如果图片受到遮挡,或者行人姿态变化较大,那么判别效果会很差。而局部特征可以在一定程度上保留图片的空间信息,虽然局部特征也没有过多的考虑姿态变化的影响,但是相比于引入姿态估计增加额外的训练成本,这种直接利用图片全局和局部特征结合的方式是最为合理的。最后,采用ResNet50网络并对其后两层卷积部分进行改进,兼顾全局特征与局部特征,利用多种损失函数的组合来提高网络性能。整体网络结构为端到端的设计,网络改进部分分为三个分支,用来提取不同尺度的特征,这些不同尺度的特征融合具有更好的抗干扰性,更全面地表达出图片的信息。在损失函数的组合设计上,采用分类损失与三元组损失组合的方式。本文对改进的算法模型进行实验,在常用的行人重识别数据集上取得了很好的准确率,研究结果表明模型是有效的。

关键词： 机器学习   差分隐私   间隔分布   分类   类别不平衡   经验误差最小化   模型重用  

摘要： 随着互联网与大数据的蓬勃发展,以机器学习为代表的人工智能技术在给我们带来便利的同时,也对隐私造成了巨大威胁。差分隐私是常见的隐私保护技术,本文对此进行研究,受近年来优化间隔分布的学习机制启发,设计了新型差分隐私机器学习方法,主要成果如下:(一)提出了适于差分隐私保护的间隔分布分析算法MDA。该算法将间隔分布的优化目标拆分为能被差分隐私优化器高效求解的强凸函数,并通过平衡两类间隔均值来缓解类别不平衡的影响。理论分析表明,即便类别严重不平衡,MDA仍能在隐私约束中达到较好的间隔分布;实验验证了其具有收敛速度快、鲁棒性好、参数不敏感等优点。(二)提出了更好求解间隔分布优化目标的隐私-公开随机梯度下降算法PPSGD。该算法利用少量公开数据,在差分隐私随机梯度下降中动态地控制隐私预算与梯度裁剪,并借鉴模型重用的思想微调结果。理论分析表明,PPSGD对非公开数据仍可保障差分隐私;实验验证了其能够有效改善差分隐私经验误差最小化的性能,显著优于已有方法。

关键词： 前交通动脉瘤   破裂风险   机器学习   预测模型  

摘要： 目的:通过回顾性分析破裂前交通动脉瘤患者与未破裂前交通动脉瘤患者的一般临床资料与动脉瘤形态学特征,利用Logistic回归方法与机器学习方法,得出前交通动脉瘤破裂的独立危险因素,并建立前交通动脉瘤破裂风险预测模型,为临床治疗决策提供帮助与参考。方法:利用青岛大学附属医院临床科研大数据平台,检索出在2012年12月至2021年1月期间就诊于青岛大学附属医院的前交通动脉瘤患者信息。后利用电子病历系统,查询并收集患者的一般临床特征,之后在医院影像系统上测量收集与前交通动脉瘤相关的CTA影像学形态学特征。采用R软件(4.0.4版本)对收集的患者临床特征、形态学特征数据进行处理及分析。对患者的特征数据进行一般资料比较分析,后纳入临床特征及形态学特征为预测因素,分别选用传统的Logistic回归、机器学习中的分类树、随机森林、人工神经网络及集成模型的方法建立前交通动脉瘤破裂预测模型,计算预测模型的准确度、敏感度、特异度等指标,并分别绘制受试者工作特征(ROC)曲线,比较几种预测模型的曲线下面积(AUC)。结果:本研究共回顾性纳入符合标准的前交通动脉瘤患者436例,按入院时动脉瘤破裂与否将纳入研究的患者分为破裂组与未破裂组。前交通动脉瘤破裂引起蛛网膜下腔出血的破裂组患者共263例,未破裂前交通动脉瘤患者173例。其中以下特征两组患者差异无统计学意义:性别占比、吸烟史、高血压病史、动脉瘤朝向、蛛网膜下腔出血病史。而两组患者的年龄、动脉瘤高度、瘤颈宽度、形态不规则、A1优势征差异有统计学差异,且经多因素Logistic回归分析后,亦为前交通动脉瘤破裂的独立危险因素。破裂组患者年龄为57.30±10.18岁,而未破裂组年龄为60.53±9.80岁,破裂组患者较未破裂组更为年轻,P=0.001。破裂组患者动脉瘤的高度为5.74±2.77mm,而未破裂组患者为4.68±2.59mm,破裂组患者动脉瘤高度明显大于未破裂组患者,差异有统计学意义,P<0.001。破裂组患者动脉瘤瘤颈宽度为2.71±1.06mm;未破裂组患者为2.97±1.48mm,破裂组患者动脉瘤瘤颈宽度小于未破裂组,P=0.033。破裂组患者中,动脉瘤形态不规则的患者有150例,占比为57.0%,而未破裂动脉瘤患者中形态不规则的患者有52例,占比为30.1%,破裂组患者中形态不规则患者的比例明显高于未破裂组,P<0.001。破裂组中具有A1优势征的患者176例,占比66.9%,未破裂组中具有A1优势征的患者81例,占比46.8%,破裂组中有更多比例的患者具有A1优势征,P<0.001,差异有统计学意义。将入组患者按照随机抽样方法按7:3比例分为训练集与测试集。在训练集数据中建立预测模型并在测试集中对模型进行验证。应用传统Logistic回归方法建立列线图预测模型并应用于测试集,ROC曲线下面积(AUC)为0.781(95%CI:0.690-0.871),在0.436截断值下,模型的效能最优。在该截断值下,在测试集中预测的准确率为0.782(95%CI:0.699-0.851),敏感性为0.833,特异性为0.711,一致性检验Kappa值为0.549。根据相关研究,选用机器学习中的分类树、随机森林、Xgboost及人工神经网络方法建立预测模型,并应用于测试集。其ROC曲线下面积(AUC)分别为:0.716、0.733、0.774、0.733。经对比,在测试集中,上述机器学习方法所建立预测模型与Logistic回归方法所建立列线图预测模型有类似的效能。后纳入数种底层模型建立集成模型,并同样在测试集中进行验证。以集成模型方法建立的预测模型ROC曲线下面积(AUC)为0.810(95%CI:0.725-0.894),最佳截断值为0.331。在该截断值下,在测试集中预测的准确率为0.774(95%CI:0.690,0.844),敏感性为0.722,特异性为0.846,一致性检验Kappa值为0.550。利用Delong测试方法对比ROC曲线下面积(AUC)。相比于传统Logistic回归方法建立的列线图预测模型,经机器学习方法建立的集成模型的效能更优,差异有统计学意义(P<0.05)。结论:患者的年龄、动脉瘤的高度、瘤颈宽度、A1优势征、动脉瘤形态不规则是前交通动脉瘤破裂的独立危险因素。多因素Logistic回归建立预测模型,并绘制列线图,能较好的对前交通动脉瘤的破裂风险进行预测。应用机器学习中的分类树及人工神经网络方法,能取得与Logistic回归类似的较好模型效能表现。应用机器学习中的集成模型方法,能构建较传统的Logistic回归方法效能更优的预测模型。在面对未破裂的前交通动脉瘤时,本研究可以为治疗决策的制订提供参考,可能具有一定的临床应用价值。

关键词： 拟南芥   DNA复制时间   表观遗传修饰特征   机器学习  

摘要： [目的]基于机器学习方法,构建拟南芥基因组DNA复制时间分类器,探究与复制时间相关的表观遗传修饰,为进一步研究DNA复制时间的表观遗传调控机制提供参考.[方法]收集拟南芥全基因组的DNA复制时间数据和多种DNA表观遗传修饰特征(ChIP-Seq)数据,以及染色质开放状态(DNase-Seq)数据,先通过t-SNE初步对DNA表观遗传修饰特征数据降维来衡量DNA复制早晚的可预测性,并利用皮尔逊相关系数计算了多种DNA表观遗传特征与DNA复制时间信号两两之间的相关性,再通过构建随机森林、多类别逻辑回归和支持向量机3种分类器对DNA复制时间进行建模分析,以十折交叉验证和ROC曲线下的面积(AUC)为衡量指标,用80％的数据建模,20％的数据对模型效果进行验证.[结果]3种分类器对DNA复制时间都具有良好的预测能力,平均AUC均达0.8以上.DNA复制早期信号与RNA聚合酶Ⅱ结合信号以及染色质开放状态信号等呈正相关,而复制晚期信号则与其呈负相关.其中H3.1、H3.3、H2AW、H4K16ac、H3K36me3、H3K4me3均可能与DNA复制时间存在密切关系.[结论]拟南芥基因组DNA复制时间可以通过表观遗传修饰进行准确预测,其中对DNA复制晚期的预测最为准确;并发现了与DNA复制时间关系密切的组蛋白变体及表观遗传修饰.

关键词： 抽油机井   示功图   机器学习   故障诊断  

摘要： 数字化油田建设使抽油机井实时生产数据呈现爆发式增长,为油井运行工况的实时诊断和故障分析提供了重要数据支持。利用大数据和智能算法对油井工况进行快速诊断分析,是油井生产决策和智慧油田建设的重要内容。通过示功图判断工况是油井故障诊断的主要方法,示功图识别准确率影响着油井故障判断的结果。本项目提出了一种基于卷积神经网络的示功图识别模型,通过参数优化和测试,形成了具有7层网络结构的CNN模型,实现了五种油井工况的准确分类。经训练和测试,该CNN模型收敛性好,模型训练准确率达到了99%,测试准确率达到了97%以上,达到了预期效果,对油井故障智能诊断具有重要的研究和应用价值。

关键词： 阿尔茨海默病   偏侧化指数   分类预测   假设检验   Fisher评分  

摘要： 阿尔茨海默病(Alzheimer's Disease,AD)是一种慢性神经退行性疾病,通常表现为认知功能减退.该病多发于老年期,起病缓慢,发病前一般无明显症状.为了从繁杂的影像数据中获取有用信息,机器学习的相关理论和方法已经应用到AD的预测诊断之中.轻度认知障碍(Mild Cognitive Impairment,MCI)具有发展成为AD的高度风险,预测MCI是早期发现AD的关键.本文基于单模态和多模态磁共振影像数据,结合统计学、神经科学与机器学习,研究不同的分类器模型和特征提取对AD分类预测的影响,以期为AD的早期识别诊断提供神经影像学理论依据.论文的主要研究内容和结论如下:1.基于结构磁功能影像(structural Magnetic Resonance Imaging,sMRI)数据的AD病程分类研究.首先通过假设检验提取灰质体积和偏侧化指数两种分类特征,然后利用具有RBF核、Linear核及Polynomial核的支持向量机(Support Vector Machine,SVM)分类器(分别记为 RBF-SVM、Linear-SVM 与 Polynomial-SVM)、随机森林(Random Forest,RF)和决策树(Decision Tree,DT)五种分类器模型,实现正常对照组(Nomal Control,NC)、早期轻度认知障碍(Early MCI,EMCI)、晚期轻度认知障碍(Late MCI,LMCI)和AD四组受试者之间的两两分类预测.主要结果如下:1)对于不同的分类器模型,AD-NC组的分类准确率相对比较稳定,而且AD-NC组的分类准确率总是最高,最高达到98.0909%.2)对于不同的受试组,Polynomial-SVM模型不但相对比较稳定而且分类准确率相对较高;而DT模型的分类器准确率不但波动相对较大而且分类准确率相对较低.3)偏侧化指数特征的引入使得不同分类模型下大多数受试组的分类准确率得到提升,最高提升5.6364%.这些结果意味着受试对象、分类器模型以及特征选择都影响分类准确率,偏侧化指数特征在一定程度上有助于AD的预测研究.2.基于多模态信息融合和MMSE评分的阿尔茨海默病分类研究.结合功能磁功能影像(functional MRI,fMRI)数据、sMRI数据和临床特征简易智力状态检查量表(Mini-mental State Examination,MMSE)评分,分别通过假设检验和Fisher评分提取灰质体积、局部一致性(Regional Homogeneity,ReHo)、低频振幅(Amplitude of low-frequency fluctuations,ALFF)与脑网络属性等特征,利用 RBF-SVM、Linear-SVM 及 Sigmoid-SVM(具有 Sigmoid 核的 SVM 分类器)、RF、K 最近邻(K-Nearest Neighbor,KNN)和朴素贝叶斯(Naive Bayes,NB)六种分类器模型,探讨多模态信息融合及临床特征对AD-NC的分类准确率的影响.研究结果表明:1)相对于单模态实验结果,基于假设检验和Fisher评分提取特征所进行的分类实验,都能够有效地提高AD预测准确率.2)临床特征MMSE评分的引入,能够进一步提升AD预测准确率.3)基于Fisher评分提取特征的实验,能够实现在较少的特征下达到较高的分类准确率.这些结果揭示了多模态磁共振影像数据和MMSE评分方法对提高AD预测结果的重要作用.

摘要： Adults with incident localized prostate cancer represent a large, medically complex population at risk for low-value care. Evidence-based guidelines recommend conservative management (CM) for localized prostate cancer patients with multimorbidity and limited life expectancy, however, 2 in 3 still choose treatment. This dissertation pursued three Aims to address research gaps related to healthcare practices associated with significant morbidity and economic burden on older men with incident localized prostate cancer: 1) examine the leading predictors of low-value healthcare practice of prostate cancer treatment for low-risk prostate cancer; 2) assess the role of patient‐reported experience with care on high-value prostate cancer management; and 3) estimate the association of high-value care on non-cancer related healthcare expenditures using machine learning and statistical approaches. In this study, 2 in 3 adults received low-value prostate cancer treatment. Multimorbidity and care fragmentation were among the leading predictors of low-value prostate cancer treatment and contrary to expectations, life expectancy was a weak predictor of treatment receipt. Social determinants of health were highly ranked predictors of treatment. Higher “timeliness of care” patient reported experience scores were associated with high-value CM use. Other forms of low-value care before incident prostate cancer diagnosis were associated with higher non-cancer related healthcare expenditures while high-value CM was associated with lower costs. In summary, this dissertation highlights the negative effect of multimorbidity and care fragmentation on overtreatment, high-value care, and cost outcomes. Perceptions of timely care with healthcare providers and systems have significant impact on high-value CM use among older men with localized prostate cancer. This dissertation reports strong independent predictive associations of incremental low-value healthcare use before incident prostate cancer

关键词： XGBoost模型   广义线性模型   可解释的人工智能技术   车险定价  

摘要： 目前机器学习方法在诸多领域得到了广泛的应用,并取得巨大进展,但由于存在不可解释、不透明的缺点,制约了其在非寿险精算领域的实际应用。与此同时,我国商业车险市场化改革放大了保险公司的自主定价权,从而对其定价能力提出了更高的要求。因此可解释的人工智能技术在机器学习精算模型中的应用研究,将有助于机器学习方法在非寿险精算领域的推广,为保险公司提供了一种新的定价思路。本文主要是通过可解释的人工智能技术,研究机器学习精算模型的车险费率厘定过程,并以传统的广义线性模型为基准,说明机器学习精算模型的车险费率厘定过程及其预测结果具有合理性。首先,基于法国第三方责任险的车险保单数据freMTPL2freq和freMTPL2sev,对被保险人在一个保险年度的车险累积索赔额进行建模,并通过均方根误差来评价损失预测模型的预测精确度。然后,使用置换特征重要性方法、importance方法、interaction方法等可解释的人工智能技术,对损失预测模型中的“黑盒子”过程进行可视化、透明化,阐述损失预测模型的具体工作原理。最后,将XGBoost模型与广义线性模型进行对比,说明XGBoost模型的预测过程是合理的。基于车险费率厘定的国内外研究现状,本文提出以下两个创新点:第一,运用机器学习方法中的XGBoost模型,直接对车险累积索赔额进行预测。近年来,机器学习方法逐渐被应用于非寿险精算领域,其中的XGBoost模型更是在各大赛事中崭露头角,目前XGBoost模型主要应用于车险索赔频率及索赔强度的预测问题中,而较少有学者将其用于车险累积索赔额的预测中。因此本文在不考虑索赔是否发生的情况下,运用XGBoost模型中的线性回归对车险累积索赔额进行预测,并将其预测结果与广义线性模型进行比较。第二,运用importance、interaction、waterfall等可解释性方法,综合分析XGBoost模型在车险定价中的“黑盒子”过程。本文在对损失预测模型的可视化过程研究中,使用了 XGBoost模型特有的可解释性方法,与一般的可解释人工智能技术相比,importance方法、interaction方法以及waterfall方法,不仅涉及了车险费率厘定因子的重要性和边际效应分析,还详细且直观的阐述了车险费率厘定因子间交互效应的重要性。损失预测模型的实证结果表明:(1)当以均方根误差作为模型性能的评价指标时,XGBoost模型的预测精确度高于广义线性模型;(2)在可视化损失预测模型的“黑盒子”过程中,以广义线性模型为基准,车险费率厘定因子的重要性分析及边际效应分析结果表明,XGBoost模型的车险费率厘定过程及其结果具有合理性;(3)通过置换特征重要性方法对车险费率厘定因子的重要性分析,可以得出结论,XGBoost模型与广义线性模型中的车险费率厘定因子重要性排序基本一致,其中最重要的车险费率厘定因子是驾驶员风险因子,其次是车辆风险因子,最后是环境风险因子。

关键词： 错义突变   蛋白质稳定性   蛋白质-蛋白质相互作用   机器学习方法  

摘要： 蛋白质稳定性和蛋白质-蛋白质相互作用对于活细胞能够执行正常功能至关重要,参与了细胞中许多重要的生命过程。错义突变可以通过影响蛋白质稳定性或蛋白质-蛋白质相互作用,致使蛋白质的功能削弱或丧失,从而导致许多疾病的发生。因此需要开发估计和解释错义突变对蛋白质稳定性和蛋白质-蛋白质相互作用影响的方法。本次研究中,我们开发了 PremPS和MutaBind2预测方法,分别通过计算错义突变对蛋白质折叠自由能和蛋白质-蛋白质结合亲和力的变化来定量预测错义突变对蛋白质稳定性和蛋白质-蛋白质相互作用的影响。PremPS由10个基于进化和结构的特征组成,在包含～5000个具有相同数量的增加和降低蛋白质稳定性的突变数据集上进行参数优化。通过在9个基准数据集上综合比较PremPS和其他30种计算方法的预测准确性,证实PremPS始终优于其他方法,并显示出在评估增加蛋白质稳定性突变的影响方面有相当大的改进。MutaBind2仅由7个特征组成,其中最重要的特征描述了蛋白溶剂化能、突变位点的进化保守性以及复合物和每个相互作用蛋白的热力学稳定性。MutaBind2可预测单个和多个突变对蛋白质-蛋白质相互作用的影响,分别在由～4000和～2000个突变组成的平衡数据集上进行训练。与其他方法相比,MutaBind2的预测准确性显著提高,尤其是对增强蛋白质-蛋白质结合亲和力突变的预测效果。PremPS和MutaBind2可用于发现功能上重要的变体、揭示功能影响的分子机制以及设计新的蛋白质和蛋白质-蛋白质相互作用抑制剂。PremPS和MutaBind2可在https://***/research/PremPS/和https://***/researc h/mutabind2/上免费获得,计算速度快,允许进行大规模的突变扫描。