关键词： 机器学习   钙钛矿   带隙   形成能   Shapley Additive explanation  

摘要： 光伏能源作为一类新型环保的可再生清洁能源,一直是国家能源发展战略的重要组成部分。在光伏能源应用研究领域,钙钛矿材料因其优异的稳定性和光电性能而备受关注。钙钛矿材料稳定性和光电性能的有效提高,可以极大推动清洁能源技术的发展和应用。带隙和形成能作为钙钛矿材料的重要性质,开发精准、快速预测的钙钛矿带隙、形成能模型具有重要的实际意义。同时,机器学习方法在材料学领域展现出强大能力,为材料开发提供了新的方案。主要研究内容和成果如下: (1)提出基于可解释性机器学习模型用于材料性质预测。本文构建了基于GBDT的带隙预测模型以及基于LightGBM的形成能预测模型。在测试集上的结果显示GBDT模型预测带隙的RMSE为0.090eV,MSE为0.053eV,拟合优度达到了93.11%,LightGBM模型预测形成能的RMSE为0.343eV/atom,MSE为0.246eV/atom,拟合优度达到了88.49%。通过模型验证和消融实验证明了两个预测模型的准确性和有效性。由于模型的未知性,在构建模型的基础上,引入SHAP进行黑盒解释。通过SHAP的解释表明,该模型能直观了解模型的预测过程。从物理角度看,此模型在解释带隙、形成能形成过程中与其存在的物理规律基本一致,证明了可解释性机器学习模型的有效性。 (2)通过模型解释了影响钙钛矿材料性质(带隙和形成能)变化的主要元素及其变化趋势。本文通过SHAP的解释,分析了影响带隙的重要元素排序以及对带隙形成的影响。还探讨了B、X位元素取代对带隙形成的主要因素。经理论验证,钙钛矿的带隙减小源于Sn原子占据B位诱导的s轨道杂化,而X位点的I离子有助于在最佳范围内进行带隙调整,这为优化钙钛矿太阳能电池带隙提供了一种实用的方法。同时,解释了影响形成能最重要的几个特征及其影响趋势。本文分析了形成能和多个特征间的重要性排序,以及他们对形成能的影响。探讨了氧空位能和A、B位金属元素对钙钛矿材料的驱动因素,从物理角度增强了可解释模型的可理解性。这再次验证了SHAP可作为解释诸多黑盒模型的一个强大工具。 综上所述,本文研究了基于SHAP的可解释性机器学习方法的材料性质预测,通过SHAP解释,增强了对预测结果的可解释性。证明可解释性机器学习模型在材料预测及解释模型方面有着巨大潜力,可推动材料信息学的发展。

关键词： 正弦型模糊熵   密度峰值聚类   遗传算法   自动机器学习   SMOTE  

摘要： 对数据进行有效的整理并进行合理归类,可以更好地储存数据,更快地提取数据以获得必要信息。根据数据是否带有可供识别的标签分为无标签数据和有标签数据,而这两种数据所用到的算法不尽相同。 针对无标签数据,需要利用无监督学习,即通过聚类算法将数据进行划分归类。本文提出利用改进的密度峰值聚类(Density Peaks Clustering,DPC)算法来进行无标签数据的聚类,但是传统的DPC算法具有对参数敏感,初始聚类中心选择非自动化的缺陷。针对以上缺陷,本文提出一种基于正弦模糊熵与三支聚类划分准则,利用遗传算法进行阈值调优的密度峰值聚类算法(GS-DPC)。本算法首先构建了正弦型模糊熵,然后运用此概念来确立三支聚类的分割标准。通过遗传算法进行自动调参,在三支聚类的结构中划分出了核心域、边缘域以及琐碎域,并最终完成聚类。该创新算法可以自动选取最优聚类中心,且对参数的敏感度较低,并可以高效筛选噪声点。 针对有标签数据,需要利用有监督学习,即通过分类算法将数据进行有效划分。传统机器学习、深度学习等算法存在构建复杂,参数难以设定等缺点,本文根据自动机器学习(Auto ML)思想,选取Autogluon算法进行数据分类。同时针对有标签数据集普遍存在的数据不平衡问题,引入SMOTE＿variants技术,融合构造出SV-AG算法来克服上述问题。本算法首先识别数据集并通过SMOTE＿variants技术选取合适的SMOTE变种算法,并对数据集进行有效过采样,使之成为平衡数据集。然后将平衡数据集输入Autogluon算法自动识别并进行模型的构建与拟合。最终,通过构建拟合的模型便可对数据进行有效的分类。该创新算法通过过采样技术可以很好克服不平衡数据集的不利影响,并通过Auto ML思想和技术进行自动堆叠与调参得到最优化模型。 结合机器学习中普遍适用的评价指标可以直观看出本文创新算法的实验结果。随后本文选择了在聚类与分类任务中比较流行的几种算法同本文算法进行比较,并结合统计学中的Friedman检验与Nemenyi检验来验证本文算法。最终通过检验可以看出本文所创新两种算法分别在各自领域占据明显优势。 综上所述,本文从实际角度出发,对于无标签与有标签两种不同类型数据的归类工作,针对性地提出了聚类与分类算法。根据实验结果并通过统计学中两种检验方法证明了本文算法的有效性与先进性,具有一定的研究意义与实际使用价值。

关键词： 地方法人银行   违约风险   系统重要性   系统性风险   复杂网络   机器学习  

摘要： 近年来我国经济增速换挡、结构优化、动能转换等经济发展新常态特征愈加明显,当前正处于新动能未完全形成,旧动能发力不足的阶段,叠加中美贸易摩擦、疫情冲击等因素影响,我国经济增速明显放缓,经济高速发展时期掩藏和积累的风险逐步显现。房地产市场的调整使房地产企业高杠杆、高周转模式累积的风险得以释放,但这也导致部分房地产企业难以为继,留下了大量的违约债务。房地产市场动荡,又迫使地方债务风险进一步加大,这些问题引致的风险通过复杂的经济联系快速传导至银行体系,加剧了银行体系的内在脆弱性,使银行体系对外部冲击表现出了极高的敏感性。尤其是地方法人银行由于体量小、公司治理不健全等最先受到经济波动的影响,风险事件频发,对金融市场造成较大冲击,如果此时地方法人银行风险仍不能得到及时处置,风险持续累积后的爆发可能引起大范围的系统性金融风险。2023年10月,中央金融工作会议强调,要全面加强金融监管,有效防范化解金融风险。因此,侦测识别银行体系的薄弱点,并前瞻性地处置化解潜藏的风险,实现风险的早识别、早预警、早暴露、早处置,健全具有硬约束的金融风险早期纠正机制就成为当前防范化解系统性金融风险的重要路径之一。 鉴于此,本文考察了我国当前银行体系薄弱点,地方法人银行的违约风险及其对系统性金融风险的影响。本文从系统性风险积聚爆发链条的具体环节入手,首先测算了单个银行违约距离,之后构建了银行体系网络,研究了单个银行违约风险通过银行体系网络传播的过程,并在此基础上研究了银行系统重要性以及银行系统性风险。研究系统性风险形成链条上每个环节的最终目的是剖析并防范化解系统性风险,尤其是地方法人银行日益突出的违约风险可能导致的系统性风险。为前瞻性地识别处置潜藏的风险,本文尝试使用前沿的机器学习方法Boosting回归树解释和预测银行的风险变化,为实现银行体系风险的早识别早预警提供新思路。 具体的,本文首先采用未定权益法(CCA)测算了 35家银行(含21家地方法人银行)上市以来的违约距离,选取对银行违约概率有潜在影响的26个银行内外部特征因素,运用机器学习方法Boosting回归树研究了银行特征因素对银行违约概率的解释和预测作用,并分析了地方法人银行区别于其他所有制银行的独特特性。之后采用最小密度法,根据银行间敞口数据构建了银行间市场复杂网络,在此基础上运用DebtRank方法测算了 35家银行(含21家地方法人银行)2008年以来的系统重要性,该测算结果包含了 35家银行系统重要性的季度变化。运用机器学习方法Boosting回归树,研究了银行内外部特征因素对银行系统重要性的解释和预测作用,并分析了地方法人银行区别于其他所有制银行的独特特性。最后在考虑系统性风险传染特性的前提下,综合银行违约概率和银行系统重要性,测算了 35家银行(含21家地方法人银行)的系统性风险,该结果包含了 35家银行数据可得以来系统性风险的季度变化。运用机器学习方法Boosting回归树,研究了银行内外部特征因素对银行系统性风险的解释和预测作用,并分析了地方法人银行区别于其他所有制银行的独特特性。 研究发现,一是当前违约概率最高的银行为地方法人银行,地方法人银行的违约概率显著高于股份制银行和国有制银行。股份制银行的违约概率位于地方法人银行之下,违约概率最低的是国有银行。二是系统重要性排序靠前的银行主要是国有银行和股份制银行,这两类银行的体量规模较大,且与银行体系内其他银行有更密切的关联。但在银行业整体遭遇冲击时,地方法人银行的系统重要性将陡然上升,甚至超过国有银行。三是当前系统性风险贡献较大的银行绝大多数都是地方法人银行,虽然地方法人银行的系统重要性整体显著低于国有制银行和股份制银行,但地方法人银行的经营存在较大隐患,相比其他所有制银行,地方法人银行违约概率更高,导致其对整体系统性风险的贡献显著高于国有制银行和股份制银行。之后系统性风险贡献稍低的是股份制银行,系统性风险贡献最低的是国有银行。这表明防范化解系统性风险需要更多关注于地方法人银行,而不是如固有印象中关注大体量银行。 此外,采用机器学习方法训练得到的模型可以较好地预测银行违约事件,通过银行违约概率的前瞻性识别预测,监管当局可以实现潜藏风险的提前消化处置,进而降低系统性风险处置化解成本。特征因素相对重要性和部分依赖关系分析表明,对地方法人银行违约距离影响前十的银行内外部特征因素为银行规模、所有者权益、人均GDP、逾期贷款占比、净息差、贷存比、高流动性资产占比、非利息收入占比、同业存放占比和贷款集中度。对地方法人银行样本系统重要性影响前十的因素中以银行外部因素为主,具体包括使用外资规模、人均GDP、GDP增速、货币市场利率、贸易开放度、信贷GDP 比值、广义货币增长率、逾期贷款占比、贷款集中度和所有者权益。对于地方法人银行系统性风险影响前

关键词： 磁共振成像   肝细胞癌   影像组学   深度学习   Ki-67   磁共振成像   肝细胞癌   影像组学   深度学习   微血管密度  

摘要： 目的 探讨基于多模态MRI的传统机器学习方法及深度学习方法术前预测肝细胞癌（hepatocellular carcinoma,HCC）Ki-67表达的价值。 材料与方法 回顾性收集2016年1月2023年3月于我院行1.5T或3.0T MRI检查且术后病理证实为HCC的患者87例,包括T2WI、扩散加权成像（diffusion-weighted imaging,DWI）及动态增强序列。根据免疫组化染色情况,分为Ki-67高表达组（阳性细胞比例>15%,n=45）,Ki-67低表达组（阳性细胞比例≤15%,n=42）。按8:2比例将所有患者随机分为训练集和测试集,其中训练集中Ki-67高表达组35例,Ki-67低表达组34例;测试集中Ki-67高表达组10例,Ki-67低表达组8例。使用GE AW 4.6工作站Functool软件对所有患者DWI序列进行后处理,获得表观扩散系数（Apparent diffusion coefficient,ADC）图。将T2WI、ADC、动脉期（arterial phase,AP）及门静脉期（portal venous phase,PVP）图像导入ITK-SNAP软件（version 3.6.0,http://***/）,逐层沿肿瘤边缘勾画感兴趣区（regions of interest,ROI）,经融合获得肿瘤全域感兴趣容积（volume of interest,VOI）。在所有数据集中随机抽取30例患者,分别由具有3年及9年的影像诊断经验的放射科医师完成所有序列ROI的勾画,以评估影像组学特征在观察者内和观察者间的一致性。使用Python语言的Pyradiomics包,每个序列提取107个纹理特征,包括一阶特征、形状特征、灰度共生矩阵（gray level co-occurrence matrix,GLCM）、灰度依赖矩阵（gray level dependence matrix,GLDM）、灰度大小矩阵（gray level size zone matrix,GLSZM）、灰度游程矩阵（gray level run length matrix,GLRLM）及邻域灰度差矩阵（neighbouring gray tone difference matrix,NGTDM）。使用组内相关系数（intraclass correlation coefficients,ICCs）及独立样本t检验进行特征降维。通过5折交叉验证,使用传统机器学习分类器逻辑回归构建影像组学模型。收集患者临床资料及常规放射学特征,包括患者的性别、年龄、肝炎病史、甲胎蛋白（alpha-foetoprotein,AFP）、丙氨酸氨基转移酶（alanine aminotransferase,ALT）、天冬氨酸氨基转移酶（aspartate transaminase,AST）、谷氨酰转肽酶（γ-glutamyltranspeptidase,GGT）、碱性磷酸酶（alkaline phosphatase,ALP）、总胆红素（total bilirubin,T-BIL）、白蛋白（albumin,ALB）、Child-Pugh分级（A级或B级）、肿瘤形状、肿瘤直径、肿瘤数目、肿瘤边缘、肿瘤内坏死、肿瘤内出血、肿瘤内脂肪、包膜强化、瘤周强化、肿瘤内动脉及影像学肝硬化,采用单因素及多因素logistic回归分析筛选HCC Ki-67表达的临床放射学独立预测因素,基于独立预测因素建立临床放射模型。将从影像组学模型中获得的影像组学特征和临床放射因素相结合,建立临床放射-影像组学联合模型。使用Antspy的Quick Rigid配准将T2WI、ADC及PVP图像分别配准到AP图像。将每个序列图像及肿瘤ROI输入预训练的卷积神经网络（convolutional neural network,CNN）。使用Res Net网络架构构建深度学习模型。将深度学习特征、降维得到的影像组学特征及临床放射特征输入到全连接层中,通过Res Net架构进行联合训练,并进一步构建深度学习与影像组学和临床放射融合模型（简称“融合模型”）。采用R语言、Python语言及SPSS26.0进行统计分析。临床放射特征中的变量采用卡方检验或Fisher精确检验进行分析。采用受试者工作特征曲线（receiver operating characteristic curve,ROC）评估不同模型预测效能,得到准确性、敏感度和特异度,并计算曲线下面积（area under curve,AUC）。采用Delong检验比较不同预测模型的AUC,P<0.05认为差异有统计学意义。 结果 基于传统机器学习方法的多模态MRI影像组学模型在训练集中的AUC、准确性、敏感度、

关键词： 转录组信息   多模态脑网络   机器学习   精神分裂症  

摘要： 精神分裂症是一种对社会和个人影响深远的精神疾病,其成因涉及复杂的脑结构异常和遗传因素。在脑网络上,精神分裂症表现出广泛的失连接现象,过往的研究已经证明多模态脑网络在疾病分类以及生物标记物识别上的卓越能力,但对于更有效的多模态网络融合方法还需要进一步研究。同时,作为一种与遗传转录组信息相关的脑疾病,过往研究已经发现了多个与精神分裂症相关的基因点位,但如何将转录组信息应用到分类模型中还需要进一步研究。因此,本文通过构建个体水平上的多模态脑网络和群体水平上的基因共表达网络,并基于传统机器学习和图神经网络方法,研究多模态脑网络的融合以及转录组信息的应用问题。 工作一通过个体水平的多模态脑网络,探究了一种考虑模态间关系的多模态加权网络构建方法。结果显示,该方法在多种分类流程上都优于传统的多模态拼接方法以及单模态网络,且该方法对模态间关系的考虑起到了作用。在分类中表现优异的脑区揭示了精神分裂症患者皮层下组织的突出作用,尤其是丘脑、基底神经节。 工作二通过构建包含动态图卷积网络的分类模型,并基于类激活图的方法、临床信息以及转录组信息进行模型可解释性分析。结果说明,该模型对比传统模型能够对精神分裂症患者进行有效地分类,模型中设置的各个组件都对分类起到了作用。且背后的分类原理与患者的临床表现以及转录组信息表达相关。 工作三通过构建群体水平的基因共表达网络,将转录组信息有效地加入研究二的分类过程中,并在验证数据集上研究了方法的可迁移能力。结果表明,该方法有效地提高了模型的分类表现,且对比加入前后的可解释性研究发现,模型发现的显著脑区与临床表现、转录组信息有着更强的相关性,说明了转录组信息对模型性能的提升不是一种偶然性。此方法在验证数据集上同样有着改善模型表现的能力,且在验证集与发现集上都观测到了丘脑、基底神经节的突出表现,暗示了其作为精神分裂症生物标记物的可能性。 综上,本文通过机器学习方法和多模态脑网络,探究了多模态数据的融合以及转录组信息在分类过程中的作用。结果表明,考虑了模态间关系的融合方式能够进一步加强多模态网络在分类中的应用,且转录组信息不仅仅可以用于对复杂模型的解释,更有可能在分类过程中起指导作用。

关键词： 机器学习   COX回归   预后模型   可解释性   SEER  

摘要： 泌尿系统恶性肿瘤,包括肾癌、输尿管癌、膀胱癌和前列腺癌。根据在JNCC(Journal of the National Cancer Center)上发布2022年中国恶性肿瘤疾病负担情况,恶性泌尿肿瘤总发病人数约为23万人,死亡人数约为9万人,在所有癌种中排在了第七位,患者预后显得尤为重要。预后模型在预测癌症患者其疾病的发展进程或其出现特定结局的风险的工作中起着十分重要的作用。目前在临床上已经应用了包括美国癌症联合委员会(American Joint Committee on Cancer,AJCC)TNM分期系统和列线图等多种医学评分预后模型,但这些模型都基于统计回归模型,其预测准确性低,难以满足临床需求。近年来,机器学习模型在临床上的应用发展迅速,但因其缺乏可解释性难以在临床上实际应用。因此,本文使用机器学习算法对泌尿肿瘤患者的生存预后进行预测,并研究选择适用的可解释性方法,以期更高效、更准确和更具有可解释性的预后模型来识别估计生存预后较差的患者,从而改善泌尿肿瘤患者的预后。本研究做出以下工作: 1.使用机器学习模型对膀胱癌患者生存率进行预测,用于更准确地预测膀胱癌患者预后。针对目前膀胱癌预后模型以统计回归模型为主,其预测准确率低的问题,本文利用随机森林(Random Forest,RF)和梯度提升决策树(Gradient Boosting Decision Tree,GBDT)模型进行预测。其中GBDT模型的预测效果最好,其中一年生存率的预测准确率达到0.874,AUC(Area Under the Curve)值达到0.833,与作为对比基准模型的COX回归相比,能够更准确地预测膀胱癌患者的生存率。 2.构建输尿管癌患者的生存率列线图,用于临床更准确地预测输尿管癌患者预后。针对输尿管癌现有传统学预后模型研究不足且AJCC分期系统预测准确率低的问题,本文为输尿管癌患者构建一个列线图模型。通过对列线图可视化,临床工作者能够更方便地对输尿管癌患者进行个体化的预后评估,从而为患者提供更加精准和个性化的治疗方案。 3.分析基于可解释性机器学习模型的输尿管癌患者生存率预测,确定适用于临床应用的最佳方案。使用基于RF和GBDT模型进行预测,并对模型进行评估。对于模型的可解释,使用了多种可解释性方法,包括特征排序重要性、部分依赖图(Partial Dependence Plot,PDP)、个体条件期望图(Individual Conditional Expectation,ICE)、全局代理模型(如决策树)等,来确定对模型预测最具影响力的特征。结果表明,RF模型表现最佳,其AUC值相比于列线图提升了4.3%。对于模型的可解释性,全局代理的决策树模型更适合临床实际应用。最终得到基于RF的输尿管癌生存预测模型结合全局代理的决策树模型可用于临床上对输尿管癌患者的生存预测分析。 本文利用机器学习算法对膀胱癌和输尿管癌患者的生存预后进行预测,提高了预测准确性,满足了泌尿肿瘤患者预后的临床需求。此外,对基于机器学习的输尿管癌生存预测模型使用了多种事后可解释性方法进行分析,最终选定全局代理模型为最优方法,与输尿管癌生存预测模型相结合,可用于临床上的实际应用,进而辅助医生进行临床决策。