关键词： 机器学习方法   杨树抗涝性   GPI指数   特征重要性  

摘要： 杨树因其自身耐涝性强、适应性高和品种繁多的特点,在我国大片地区尤其是北方广泛种植,具有很高的生态价值、科研价值和经济价值。洪涝灾害长期困扰我国植物生态环境和栖息地发展,这一问题在长江中下游地区尤为突出。因此,分析和筛选与杨树耐涝性相关的重要特征以及抗逆选种工作对于我国植物生态环境保护和经济社会发展具有非常重要的意义。本研究首先基于20种杨树在涝渍实验前后苗高、地径和生物量的变化值,在完成缺失值、异常值、离群值等数据预处理之后,对三个指标分别进行正态性检验和参数检验（方差分析、T检验）以及非参数检验（曼-惠特尼U检验）,筛选出具有显著差异的杨树抗涝性指标。同时将通过上述检验的指标,利用抗涝系数加权构建出衡量杨树抗涝性的新指标,还利用聚类分析树形图方法将杨树品种加入到影响杨树抗涝性的研究中。其次,对专家筛选后的26个杨树特征利用递归特征消除法做进一步筛选,再选取5种机器学习模型（XGBoost、Light GBM、Gradient Boost、Decision Tree和Ada Boost）以及融合模型对20个杨树品种的13个特征进行建模分析。然后,利用拟合优度、可解释性方差分数、均方根误差和平均绝对误差分别对各个模型在训练集和测试集的建模效果进行评估分析,其中模型Light GBM和模型Gradient Boost表现效果最为优异,并利用GPI指数对各个模型在测试集方面进行评价。模型评估结果表明,除融合模型外,单一模型中Light GBM模型和Gradient Boost模型的GPI指数最高,而且两个模型在训练集的判决系数都超过了0.96。在测试集方面,拟合效果最好的Light GBM模型的拟合优度是0.8433,可解释方差分数是0.9237,平均绝对误差是0.1680,均方根误差是0.2346。最后,利用Permutation＿Importance和平均SHAP值对Light GBM模型和Gradient Boost模型的特征重要性进行分析,并结合生物特征因素分析特征重要性。其中Light GBM模型利用两种方法进行特征排序时,两种方法筛选的前10个特征完全相同,故Fm、H2OS和Fo等特征在对抗涝性指标所建立的模型中重要性程度更高。综上所述,本研究提出的抗涝性指标以及相关回归模型在预测方面精确度和效率更高,分析出了影响杨树抗涝性能力的重要特征及其特征排序。这些对进一步预测杨树抗涝性和选择强抗涝性的品种具有重要意义,也对开展抗涝性杨树品种种植和实现碳中和目标提供了一定的参考价值。

关键词： 三轮机动人力车   机器学习   斯皮尔曼相关   摩托车事故   随机参数Logit模型   时间不稳定性  

摘要： 交通安全正在快速发展为一个全球性问题,这也是巴基斯坦当地管理者和决策者真正关心的问题。在巴基斯坦,过去十年来交通工具数量急剧增长,尤其是弱势交通工具(摩托车和三轮机动人力车)。对现有文献的分析表明,三轮机动人力车和摩托车碰撞造成的损伤严重程度很少在当地得到解决,这也是为什么本研究针对VRU的两个不同群体(摩托车和三轮机动人力车)进行损伤严重程度分析的原因。本研究采用机器学习和统计建模的方法来实现以下三个目标。 首先,本文提出了一种整体的机器学习框架,用于研究三轮机动人力车(3W-MR)的损伤危险因素并建立损伤严重程度模型。巴基斯坦主要的客运和小规模货物运输方式是3W-MR。尽管3WMR在巴基斯坦是一种重要的交通方式,但对于识别3W-MR事故损伤严重程度的因素方面所做的工作很少。碰撞损伤严重程度分析的主要目的是为了了解影响损伤严重程度危险因素和环境之间的相关性。本研究采用的危险程度分析识别算法有基于机器学习的决策森林(Decision jungle,DJ)、随机森林(Random Forest,RF)和决策树(Decision Tree,DT)。本研究的数据为2017-2019年某地的碰撞数据。实验结果表明,在基于分层的10倍交叉验证方法中,DJ的总体准确率为83.7%,优于DT和RF。此外,spearman相关性分析表明,照明条件、年轻驾驶员(20至30岁)、限速设施(超过60英里/小时)、工作日、非高峰和晴朗的天气条件等因素更有可能加重3W-MR撞车事故的损伤严重程度。本文基于RF提取决策规则,这些规则强调了未来可能导致碰撞伤害严重程度结果的情况。 本论文的第二个目标是通过采用随机参数logit模型来识别与摩托车骑手伤害严重程度相关的关键风险因素。为了校准模型,摩托车骑手伤害严重程度的阈值被分类为无伤、轻微伤、重伤和致命伤。在摩托车骑手伤害严重程度分析中,主要考虑了车辆碰撞特征、天气条件、骑手属性和其他社会人口统计学因素的影响。研究结果表明,发生在工作日、涉及年龄超过50岁的骑手、摩托车与乘用车和重型车辆碰撞、女性作为后座乘客以及超速行驶的事故会增加严重和致命伤的风险。 本文的第三个目标是研究佩戴头盔和未佩戴头盔摩托车手碰撞损伤严重程度的差异,并强调时间变化及其影响。从巴基斯坦拉瓦尔品第当地应急服务机构RESCUE 1122收集了三年(2017–2019)的摩托车碰撞数据。采用具有均值和方差异质性的随机参数logit模型来预测戴头盔和未戴头盔摩托车碰撞的关键影响因素。模型估计结果显示,头盔佩戴与不佩戴对摩托车手损伤严重程度的影响存在显著差异。对于佩戴头盔的摩托车手来说,与伤害严重程度增加和致命伤害显著相关的关键因素包括年轻骑手(20岁以下)、女性后座骑手、与另一辆摩托车、大卡车、客车的碰撞、50岁及以上的司机。相比之下,对于不佩戴头盔的摩托车手来说,造成严重伤害和死亡的关键因素是分心驾驶(在U型转弯时发生的两起摩托车碰撞、工作日的撞车事故)以及司机年龄超过50岁。预测摩托车骑手伤害严重程度参数的影响在时间上呈现出显著的变化和不稳定性,具有统计学上的显著性。 该论文的研究结果可以为道路安全机构提供必要的指导,特别是在研究区域内,以便主动采取适当的对策来控制与三轮摩托车和未佩戴头盔的摩托车有关的道路安全问题

关键词： 安全感知   性别差异   街景图像   机器学习   公民科学  

摘要： 街道是城市安全治理和城市设计的一个重要对象,但街道的设计很少考虑到可能的性别差异。在环境心理学等领域,研究人员已经证实了环境的安全感知存在性别差异,即女性对环境的安全感整体弱于男性。所以安全感知是一个包容性的要求,传统的以混合性别或男性为主体人群的评价无法完全满足女性的安全需求。此外,这类研究中涉及的问卷调查和访谈方法是费时费力的,研究尺度也受到很强的局限性,无法进行大规模尺度的城市安全评估。因此,如何准确、有效地评估城市尺度街道环境的安全感是本研究试图探索的问题。 本研究以广州市中心城区为例,提出了一种基于街景图像(SVI)数据和机器学习(ML)方法分析城市安全感知中性别差异的思路。首先,本研究招募了60名志愿者对SVI进行评分,分为女性、男性和混合性别三组。接着,采用回归分析探究主要影响女性和男性安全感知的视觉要素;同时,研究采用女性、男性和混合性别人群的评价数据建立ML模型,进而预测其余SVI的安全分数,并依次创建每组的安全感分数地图。最后,研究将女性和男性的安全感知差异进行空间可视化,发现出现差异的具体位置并描绘差异场景的画像。 本研究发现:1)主要影响两性安全感知的视觉要素是高度相同的。例如,两性的安全感知都重点关注街道中的建成环境活力和可步行性等相关的视觉要素,这些视觉要素的影响力度都是较强的;但部分视觉要素存在差异。2)在女性、混合性别和男性群体的安全感分数地图中,三组分数结果的空间分布几乎完全一致,但其中分别有约63%、47%和23%区域的分数是低于安全感满意门槛。3)安全分数越差的场景,两性的安全感知差异也越大;这些场景的画像为荒凉的场所、视觉要素复杂、绿色植被占比较弱、以及无人维护环境等。而随着安全分数的提高,两性的安全感知差异逐渐消失。 本研究从性别视角进一步探究了街道安全评价和改造两个方面的内容,这将为城市管理者、城市规划师和景观设计师提供街道安全评估和改进方面的信息,并为创建包容性的街道环境提供支持。

关键词： 脊柱骨折   机器学习   死亡率   重症监护病房   预测模型  

摘要： 目的:关于重症监护病房中脊柱骨折患者的严重性评价标准极少,直至目前,除了我们的成果外,尚未有其他人在预测脊柱骨折患者的院内死亡方面做出相关研究。因此,我们当前研究的目的旨在利用患者入院24小时内的各项临床指标评估患者的严重性,做出患者院内死亡风险概率的预测,从而尽早的识别高危患者,指导临床实践。方法:我们的患者来源于两个大型的重症医学数据库,分别是MIMIC-III(Medical Information Mart for Intensive Care version III)数据库和e RI(e ICU Research Institute Database)数据库。我们通过疾病诊断代码来识别诊断为脊柱骨折的患者,并删除重复的入院记录。本研究采集了患者人口学特征、实验室检查、共患病和各项评分系统这四大方面的数据。通过对比死亡组和存活组之间各项指标的统计学差异,以及正则化方法进行降维,最后通过临床经验筛选出有意义的临床特征进行建模。我们使用MIMIC-III数据库作为训练集(内部验证集),使用e RI数据库作为验证集(外部验证集),我们开发并验证了六种流行的机器学习算法,分别是:k邻近算法,随机森林,极限梯度提升,逻辑回归和神经网络。根据模型的内部和外部验证结果,我们进行了数据可视化,并筛选出最佳的模型。考虑到医疗行业的特殊性,我们还进行了模型可解释性分析。结果:最后一共1512名患者纳入本研究中,其中MIMIC数据集纳入1190名患者,117名患者发生院内死亡,死亡率9.83%;e RI数据集中纳入322名患者,25名患者死亡,死亡率7.76%。经过上述方法的筛选,最后我们一共纳入20个临床变量进入模型训练中。模型验证的结果表明,综合来看,无论是内部验证还是外部验证,随机森林算法的表现较为稳定且优秀,其内部验证和外部验证的AUC值分别是0.77和0.73。在可解释性分析中,该模型最重要的三个变量是:体温、平均动脉压和年龄,其他的可解释性分析也证明该模型的判断方式与我们以往的医疗知识一致。结论:我们的研究成功的开发并验证了多个机器学习模型用于预测重症监护病房中脊柱骨折患者的院内死亡,其中随机森林模型的表现最好,模型的可解释性分析也符合医学认知,同时外部验证也证实我们当前的模型具有强大的迁移和泛化能力。综上所述,我们的模型可以早期精确的识别高危患者,提前采取积极有效的有望降低入院患者的死亡率;同时我们的研究也存在一些局限性,特别是本研究是一项回顾性研究,之后需要更多的前瞻性研究对我们的结果进行验证。

关键词： 耦合氢键   氢键几何   协同弛豫   机器学习   数据库  

摘要： 水在地球文明中的重要性不言而喻,然其复杂多变的相结构和反常物性促使无数科研工作者努力厘清其特殊性的物理本质及各种物性的内在联系。目前,冰水的研究现状可概括为一种现象伴随着多种理论辩争。一方面,人们对冰水结构和反常物性的认知远未达成一致;另一方面,受限于表征技术与方法,氢键几何结构参数实测数据较缺乏,且未形成体系,很大程度上限制了人们对冰水及溶液体系本质和演变规律的理解。本文以非对称耦合O:H—O键为研究对象,结合氢键协同弛豫理论,搜集冰水及溶液氢键几何结构特征的相关数据,建立不同的机器学习模型,预测了冰水及溶液体系氢键几何结构参数,构建了氢键几何结构数据库。主要研究内容如下: (1)通过论文、书籍及数据库等途径获取冰水中氢键几何结构信息,利用皮尔逊相关系数图和特征参数关系散点图进行特征选择,使用网格搜索和5折交叉验证法调整模型参数,构建了DT、KNN、SR和XGBoost四种ML算法模型,以预测冰水中氢键(O:H—O)的系列键长。结果表明,DT模型的拟合能力更强,稳定性更好,具有预测优势;对比氢键系列键长的真实值和预测值,两者重合度较高,说明DT模型不仅具有良好的拟合能力,还具有较好的泛化性能和稳定性以及较优的预测能力。 (2)通过广泛收集系列溶液的氢键几何结构信息,应用e-dragon分子描述符进行特征选择、参数调整,构建了DT、KNN、SR和XGBoost四种ML算法模型,并对各溶液的氢键键长参数进行了预测。结果表明,四个模型的预测值与实验值都十分契合,误差较小,但KNN在预测中出现了异常值,不能为后续预测所用。其他三种模型表现相当,均呈现出优异的预测性能、泛化性能和稳定性,尤其是SR模型,其各项指数皆为最优,被适用于溶液氢键几何参数的预测。 (3)根据氢键几何数据特点,结合实际需求进行数据库的可行性分析和需求分析,初步完成了氢键几何结构数据库的搭建和后台管理系统的设计,实现了对数据库信息即冰水或溶液氢键几何结构的查看、查询功能。

关键词： 冠状动脉粥样硬化性心脏病(CHD)生物标志物   WGCNA   单细胞测序   多种机器学习方法  

摘要： 背景及目的:冠状动脉粥样硬化性心脏病(Coronary Atherosclerotic Heart Disease,CHD)是一种以炎症和免疫细胞浸润为特征的危及生命的心血管疾病。CHD相关生物标志物是了解细胞和分子图谱的异质性。 方法:从GEO数据库下载与CHD疾病相关的数据集GSE131778、GSE60993、GSE66360和GSE61144。首先,我们应用单细胞RNA测序(Single-cell RNA sequencing,scRNA-seq)、加权共表达网络分析(Weighted Co-expression Network Analysis,WGCNA)和差异表达分析确定CHD的生物标志物。此外,我们使用多种机器学习方法识别区分CHD中不稳定型心绞痛(Unstable Angina,UA)患者动脉粥样硬化斑块破裂导致心肌梗死(Myocardial Infarction,MI)的相关生物标志物。用受试者工作特征曲线(Receiver Operating Characteristic Curve,ROC)评价生物标志物的预测能力。此外,CIBERSORT分析还被用来研究生物标志物与免疫细胞浸润的关系。 结果:通过生物信息学分析,已鉴定的CHD功能基因主要与炎症、免疫反应、血脂和动脉粥样硬化相关。作为冠心病的生物标志物,CCAAT增强子结合蛋白β(CCAAT Enhancer Binding Protein Beta,CEBPB)被证实是有意义的预测因子(曲线下面积[Area Under The Curve,AUC]在GSE60993、GSE66360和GSE61144中分别为0.824、0.807和0.811)。LOC102724323是介于MI和UA之间的靶标(AUC在GSE60993和GSE66360中分别为0.747和0.630,)。此外,通过结合单细胞测序数据和免疫细胞浸润的分析,发现CEBPB的表达与单核细胞和巨噬细胞、周细胞、成纤维细胞、纤维肌细胞、平滑肌细胞(Smooth muscle cells,SMC)相关。此外,LOC102724323的表达与激活的树突状细胞、中性粒细胞和M2巨噬细胞相关。 结论:研究结果表明,CEBPB可能是一种有效的冠心病诊断生物标志物,而LOC102724323可用于预测UA患者因斑块破裂而发生MI的风险。

关键词： Fontan circulation   Machine learning   Single ventricle disease   Central venous flow  

摘要： Patients born with SVD, a severe CHD, are subject to three palliative surgeries that culminate in the Fontan circulation. While the Fontan circulation addresses the primary concern of obstructed systemic blood flow and cyanosis, a range of Fontan associated comorbidities including lymphatic, liver, cardiac, and additional end organ damage are often apparent in adolescence. Previous work has established that arterial hemodynamic measures are related to circulatory decline in this population, and although non-pulsatile venous return is the suspected culprit of Fontan-associated comorbidities, no group has quantified venous return using machine-learning methods or explored such measures as a contributor to Fontan decline. The overall goal of this project was to develop a new prognostic model of SVD and verify measures that contribute to decline in this population. Secondarily, we explored novel TCPC flow patterns as possible predictors of Fontan decline. The primary results of this work suggest that major variations in Fontan hemodynamics lay primarily in venous flow, and that PCs representing venous flow associated with measures of kidney, pulmonary, liver, and global cardiovascular function. We identified multivariate models of superior prediction that included 1) IVC flow patterns and EF and 2) a PC representative of lymphatic dysfunction and EF. Most importantly, this work establishes a foundation and avenue for further ML-based Fontan prognostication.

关键词： 金融本文情感分析   字典方法   机器学习方法   迁移学习方法   累计超额收益率   情感因子  

摘要： 本文在金融情感分析和机器学习、迁移学习流行的背景下,利用中国深圳上市公司2011至2020年的年报数据,采用字典方法、机器学习方法和迁移学习的方法对年报文本反映出的情感信息进行捕捉,通过这三种方法构造出情感因子,并将情感因子用于年报披露后的月内累计超额收益率的预测中,取得了良好表现。 针对年报文本的情感,本文通过构建月内累计超额收益率指标来判断年报披露的情感倾向,并通过字典法、机器学习方法和迁移学习的方法对情感倾向做出判断。其中字典法主要通过构建正向词和负向词字典,并统计年报中正、负向词的占比,以此来作为情感判断的依据;机器学习方法主要涉及随机森林、支持向量回归和LightGBM,本文通过构造高词频有序字典的方法,对年报文本数据进行特征抽取,得到词频统计特征矩阵作为机器学习模型的输入,通过预测年报披露后的月内累计超额收益率来获取情感倾向指标,形成情感因子,在因子测试中取得良好表现;迁移学习的方法主要是运用了词粒度的中文BERT,针对年报的超长文本,本文首先构建了 8大目录特征,并在每个目录特征下运用CogLTX中的记忆回想(MemRecall)机制对长文本做进一步处理,最终获得了较好的结果。 对三种方法构建的情感因子分别进行了单因子和多因子测试,通过一元或多元线性回归测试因子对年报披露后的月内累计超额收益率的预测能力,以R2作为评估指标评判各个方法产生因子的优劣性,最终的结果显示,迁移学习产生的情感因子性能最高,机器学习产生的情感因子性能紧居其后,而面对超长文本,字典方法构造的情感因子效果较差。

关键词： 索赔频率   精算预测建模   广义线性模型   可解释性机器学习  

摘要： 随着保险大数据的发展,基于海量数据进行精算预测建模逐渐成为保险公司一项十分重要的工作。机器学习预测模型在处理海量数据时有着极大的优势,其预测精度优于广义线性模型也已经成为普遍共识。但机器学习模型中预测值的产生逻辑,模型特征变量之间的交互关系,变量如何影响预测值等这些可解释性问题均不能从机器学习模型中得到直观的回答。这就是机器学习模型的“黑盒”属性,也是导致了其无法在保险公司精算预测建模实务中被广泛运用。鉴于上述问题,本文提出了一种在保险数据中运用可解释性机器学习方法分析机器学习预测模型的研究思路。 借助经典的法国汽车保险索赔数据,本文开展了如下研究:首先,本文构建了两类汽车保险索赔频率的预测模型:广义线性模型和机器学习模型,其中机器学习模型包含了神经网络模型和XGBoost梯度提升树模型,模型的拟合效果表明机器学习模型在预测精度方面高于传统的广义线性模型。其次,本文采用部分依赖图、个体条件期望图、置换特征重要性以及沙普利值可加性解释(SHAP)等可解释方法,对神经网络模型和XGBoost梯度提升树模型中隐含的变量重要性、变量如何影响预测值、变量间的交互作用以及单一预测值如何产生等可解释性问题进行了研究和分析,得到了一系列关于变量的可解释性结论,说明可解释性机器学习方法能够使机器学习模型具有很好的解释效果。最后,考虑到保险公司对模型可解释性的现实需求,目前在精算预测建模实务中仍然更多地采用广义线性模型的实际情况,本文将机器学习模型中得到的可解释性结论应用于传统广义线性模型的改进中。经过评价指标的测算,改进后的广义线性模型在拟合效果和预测精度上均得到了显著改善,优于已有的广义线性模型和神经网络模型。 本文的研究结论有助于推动机器学习模型更多地应用于保险公司精算预测建模实务,帮助建模人员预先确定模型中的重要变量,进而探究重要变量对预测值的影响。并且基于得到的可解释性结论,本文对保险公司广泛使用的广义线性模型进行了改进,改进后模型的实际预测精度得到了极大改善。

关键词： 动量   机器学习   量化投资  

摘要： 随着我国资本市场的不断发展,机器学习与量化投资也逐步走入了人们的视野。因子投资作为量化投资领域中的一个方向,不论是在学术领域还是现实投资领域,一直都受到各位研究者们的青睐。其中,动量因子则是近年来最有代表性的异象之一。同时,随着数字技术与金融科技的发展,使用机器学习结合量化投资也逐渐成为部分学者和市场投资者研究的主流方向。基于上述背景,本文将动量因子与机器学习模型有机结合,使用其他基本面因子作为输入,并结合不同机器学习方法,加强A股市场上的月级别动量效应。首先,通过搜寻相关文献,本文认为股票市场具有一定的可预测性,而相比于传统计量方法,机器学习方法在股票收益预测方面存在部分优势。其次,最新研究表明,动量因子是其他基本面因子的动量组合而成的,即动量因子拥有其他基本面因子的风险溢价。所以,本文认为动量因子和基本面因子存在着一定的关联,因此使用了16个基本面因子作为机器学习模型的输入。对于策略构建与评估,本文使用了OLS、Lasso回归、Ridge回归、弹性网络模型、GBDT模型、随机森林模型以及XGBoost模型在每月月底对A股市场上月频动量排名前20%的股票进行预测,并买入预期收益大于0的股票。预测时所使用的因子为其他学者在A股市场上验证有效的16个基本面因子,策略回测的时间为2013年1月至2022年4月。随后统计这些策略的收益、胜率、夏普等策略指标,并使用Fama-French五因子模型对策略的超额收益进行检验。最后,本文也探究了XGBoost模型的因子重要度和策略适用的标的股票,并检验了交易成本的影响。进行上述操作步骤后,本文有以下发现:第一,机器学习方法更善于预测动量较大组股票的下期收益率方向,随着动量效应的减弱,模型预测的正确率也呈现出单调下降的趋势,这说明动量因子与其他基本面因子的确存在部分联系;第二,不同模型都能对动量最大组的股票收益起到加强效果,而树模型的综合表现明显优于线性模型,在年化无风险收益设定为2%时,XGBoost模型的夏普比率为0.65,而表现最好的线性模型的夏普比率为0.51,这也说明了较为新颖的模型能取到较好的加强效果,其原因是这些模型更能找到因子与预期结果之间的非线性关系。同时,本文也发现对中小市值股票运用该投资策略能获得更高的超额收益。最后,考虑到交易成本等现实约束后,该策略仍然具有一定的现实投资价值。