关键词： 机器学习   生物信息   Anti-CRISPR   反式剪接因子   氨基酸序列  

摘要： 进入后基因组时代后,随着蛋白质测序技术的快速发展,已知序列的蛋白质数量增长迅速,然而受传统实验技术和实验条件的限制,已知功能的蛋白质数量增长缓慢,两者之间的差距越来越明显。因为蛋白质功能与蛋白质序列有关,因此成功基于蛋白序列预测蛋白质功能和类别已经成为蛋白质组学的重要目标之一。蛋白质是由20种不同类型的氨基酸组成的具有复杂结构的生物大分子,在细胞和人体生命活动中发挥着重要作用。蛋白质功能的先验信息在细胞生物学,药理学,生物信息学和生物医学等科学研究中发挥着重要作用。然而,由于用于研究蛋白质功能的传统实验方法是昂贵和耗时的,因此,开发快速,合适,可靠且合理的蛋白质功能预测的计算方法是必不可少的。随着机器学习方法在各个领域内的快速发展,尤其是生物学领域,针对不同的蛋白质设计独特的计算方法框架已经成为生物信息学领域内的常用策略。 在此背景下,本研究围绕anti-CRISPR蛋白质和反式剪接因子(RNA结合蛋白质)展开,为其开发了可靠的机器学习预测模型,主要包含以下两个部分的工作: 1.构建了一个用于识别anti-CRISPR蛋白质的机器学习集成预测器,称为Pre Acrs。Pre Acrs仅基于蛋白质序列来识别该蛋白质是否为anti-CRISPR蛋白质。三种特征训练八个单分类器组成的集成模型被用来构建Pre Acrs预测器。从预测结果来看,Pre Acrs优于其他现有方法,显著提高了anti-CRISPR蛋白质的预测准确率,在准确性和稳健性方面取得了具有竞争性的性能。 2.利用机器学习方法探究了理化性质和结构特征在预测反式剪接因子活性中的作用,并且发现这些特征显著提高了预测反式剪接因子活性的准确性。通过结合最小冗余-最大相关性算法和向前搜索特征算法优化特征集,得到一个具有24个特征的特征子集来预测反式剪接因子的活性。这个特征子集包含16个氨基酸对的组成,5个理化特征和3个结构特征。从实验结果来看,理化性质中的疏水作用和结构特征中的卷曲的分布是预测反式剪接因子活性的关键特征。

关键词： 机器学习   泥石流   易发性评价   域自适应   异质性  

摘要： 泥石流易发性评价是泥石流防治工作中的一个重要环节,合理可靠的评价结果可为相关地区制定科学的防灾减灾方案提供重要依据。得益于遥感技术、地理信息系统、全球定位系统与计算机技术的发展,泥石流易发性评价技术已日趋成熟与完善。机器学习方法具有强大的非线性处理能力及鲁棒性等优势,近年来得到了广泛应用。现有的相关研究大多基于单一研究区域进行建模分析,在实际应用中,仍存在一些难题亟待解决。例如单一研究区域泥石流的样本数量较少时可能出现的少量缺陷数据严重影响模型表现以及样本代表性不足等问题。此外,当研究者面对多个研究区域时,基于单一研究区域建立的模型通常缺乏对其余研究区域的泛化能力,而泥石流易发性评价的目的在于为所有研究区域的用地规划以及防灾减灾工作提供统一的决策依据,对多个研究区域分别进行独立易发性评价还会出现评价标准不一的问题,进而影响最终决策的合理性。本文首先以提升模型性能为目的,选定北京市房山区为实例研究区对泥石流易发性评价过程中的负样本获取策略以及机器学习算法进行优选。随后引入域自适应理论,基于迁移成分分析方法,提取房山区与陇南地区的燕子河流域的共同特征进行联合评价,为机器学习应用于多区域泥石流易发性评价提供理论途径。为了降低样本异质性对模型的影响,本文以四川省北川县为实例研究区,探究无监督聚类方法在解决样本异质性问题中的应用。模型性能的提升、不同研究区域的域自适应与样本异质性问题的解决使得机器学习模型可以被推广至多个研究区域,最终本文结合上述研究成果完成了多区域的泥石流易发性评价。论文的主要工作与成果如下:1.对泥石流易发性评价的发展历程、不同研究区域的域自适应方法以及样本异质性的解决方案进行了系统性回顾,并详细阐明了泥石流易发性评价过程中的数据收集处理方法及模型的建立与评价方法。2.提出了多种泥石流负样本获取策略以提升负样本的可靠性。以房山区为实例研究区,在单网格、多网格与流域单元作为基本样本表征形式的条件下分别基于支持向量机(Support vector machine,SVM)算法、SPY技术与孤立森林(Isolation forest,IF)算法来获取泥石流负样本,并与对应的泥石流正样本相结合形成了9组建模数据集。基于各组数据集分别进行了评价因子分析与建模预测来比较不同负样本获取策略的优势与缺陷。结果表明,基于SVM算法的负样本获取策略较为依赖分类器性能,整体表现较不稳定。基于SPY技术的负样本获取策略对数据集要求较低,且对算法无明显依赖,能够改善多组数据集质量。基于IF算法的负样本获取策略的假设条件与流域单元数据集符合地很好,可被用于提高相应数据集的质量。3.结合不同样本表征形式与负样本获取策略形成的9组数据集,基于SVM、随机森林(Random forest,RF)、梯度提升树(Gradient boosting decision tree,GBDT)以及Stacking算法完成了36组机器学习模型的训练与评价。结果表明,Stacking模型具有较高的预测准确度,但其模型复杂度明显大于其余模型,且训练预测效率较低。RF模型在预测准确度、模型复杂度与训练预测效率三个方面表现较为均衡,是一种易于推广的优质算法。4.引入域自适应理论,采用迁移成分分析方法,提取不同研究区域的共同特征,实现了不同研究区域的联合评价。论文以房山区与燕子河流域为实例研究区,基于迁移成分分析方法将两研究区域的特征矩阵投影至共同的特征空间。选取RF为建模算法,基于两研究区域的样本来共同建立一个统一模型,并与基于单一研究区域样本建立的传统模型进行比较分析。结果表明,统一模型预测准确度虽不及传统模型,但统一模型的建立可有效缓解单一研究区域的样本短缺问题,提高建模效率。另一方面,统一模型的敏感性、特异性、准确率与AUC分别达到了82.2%、79.6%、80.6%与0.84,该模型表现仍是令人满意的。5.提出了基于无监督聚类方法的泥石流样本异质性的解决方案。论文以北川县为实例研究区,优选出模糊C均值聚类算法将研究区样本划分为4类。对各类数据集进行了评价因子分析并建立了个性化模型,并与基于总数据集获取的评价因子及全局模型进行了对比。结果表明,相同的评价因子在各类数据集中能发挥的预测能力具有较大差异,展现出该区域泥石流样本较强的异质性。另一方面,大部分评价因子在各类数据集中预测能力强于总数据集,最终个性化模型的总体表现也优于全局模型。因此,模糊C均值聚类算法在样本异质性问题的解决中具有良好的应用前景。6.进行了多区域的泥石流易发性评价。以流域单元为样本表征形式,基于迁移成分分析方法提取了3个研究区域的共同特征。将3个研究区域视作一个整体,基于模糊C均值聚类算法对所有样本统一进行类型划分以降低泥石流样本的异质性对模型的影响。基于各个类型中的样本分别进行共同特征分析并建

关键词： 采空区   机器学习   集成学习   主成分分析   概率神经网络  

摘要： 近年来,随着矿山的不断开采,遗留下来了大量的采空区,给矿山的安全带来了极大的隐患,因此对于采空区危险性辨识的研究已经成为矿山安全治理的重点与关键。本文以近年来广泛应用于解决土木工程中非线性问题的机器学习算法作为采空区危险性辨识的核心算法,构建了基于机器学习算法的采空区危险性辨识模型,通过具体工程实例研究分析得到的主要研究成果及结论如下: (1)通过采空区现场调研和实地勘察,确定影响华东地区某矿山采空区危险性辨识的9项主要因素,并构建采空区危险性辨识的数据集,介绍并构建出10种机器学习监督学习算法模型,提出在模型建立过程中依次减少单个特征来构建10个不同的数据集,从特征组合的角度对数据集进行优化并提升模型性能。 (2)通过不同数据集上多方面的模型性能评估系统性的探究出相对较优的算法、性能较优的数据集,其中确定了数据集D-4为相对最优的数据集,得出集成学习算法的性能普遍上优于基础机器学习算法性能的结论,得到的4种性能相对较优的算法分别是Cat Boost、RF、XGBoost和LGBoost,且Cat Boost是性能相对最优的算法。 (3)基于主成分分析和概率神经网络理论,引入PCA-PNN算法来作为补充性算法,从降维和神经网络的角度对采空区危险性辨识问题进行分析,将PCA-PNN算法应用于采空区数据集上,通过与三种机器学习算法的辨识结果进行对比分析,证实了PCA-PNN算法的有效性,使其作为采空区危险性辨识综合性方法的有效补充。 (4)根据集成学习算法原理和KNN算法分类决策规则的研究思路,根据Cat Boost、RF、XGBoost和LGBoost的预测结果,结合补充性算法PCA-PNN的预测结果,形成综合性方法来投票决策出最终的预测结果,得出综合性方法的预测排名为并列第一,且相较于单一的算法而言,其预测结果更为可靠,并对后续危险等级较高的采空区进行简要的变形与位移分析,便于后续的采空区治理建议方案、采空区回收方案等的制定工作。

关键词： 智能车辆   车辆换道   换道风险预测   换道轨迹预测   机器学习  

摘要： 驾驶员技术、驾驶习惯、心理状态以及交通安全意识等直接关系到车辆换道的安全性,是导致交通事故的主要原因。智能车辆具有多个高性能传感器和智能控制系统,能有效降低车辆换道风险,但换道风险与换道轨迹预测方法复杂、预测精度和预测时效性难以满足车辆高速行驶工况要求。为此,本文开展了相关研究,主要内容如下:首先,选取NGSIM轨迹数据集中的I-80公路作为研究对象,并采用对称指数移动平均法(Symmetric Exponential Moving Average,SEMA)对该数据集进行预处理,从而为后续的模型训练与验证奠定基础。根据数据集的特征,以车辆在主干道上发生自由换道行为进行了分析。其次,根据车辆换道过程分析,总结出车辆之间发生碰撞的四种情形,选取车辆换道过程中的车头时距(Time Headway,THW)作为换道风险指标;为了保证数据集的有效性,对数据集进行二次筛选,同时采用皮尔逊相关系数法对所选择的七种换道风险特征参数进行相关性研究;利用上述七种换道风险特征参数建立XGBoost换道风险预测模型,同时,针对模型训练需求,对数据集进行划分以及归一化处理。研究结果表明,XGBoost换道风险预测模型具有较好的换道风险指标预测性能,其预测结果的均方根误差为0.2804,且模型的预测精度和训练速度均优于随机森林(Random Forest)算法,所采用的七特征参数预测模型的预测效果也比两特征参数预测模型的预测性能更好。最后,结合卷积神经网络(Convolutional Neural Network,CNN)和长短期记忆神经网络(Long Short-Term Memory Network,LSTM),建立了CNN-LSTM换道轨迹预测模型,同时对车辆轨迹序列预测数据进行提取,比较并分析不同时间步长输入对模型预测结果的影响,并与LSTM换道轨迹预测模型进行比较;研究结果表明,CNN-LSTM换道轨迹预测模型所采用的单时间步长输入、五时间步长输入和十时间步长输入均能完成预测任务,其RMSE值分别为0.3537、0.2479和0.0584,且发现历史轨迹序列输入越多,预测精度越高;建立的CNN-LSTM模型的预测精度高于LSTM换道轨迹预测模型。

关键词： 心房颤动(AF)   机器学习(ML)   加权基因共表达网络分析(WGCNA)   免疫浸润   生物信息学分析   分子对接  

摘要： 目的:目前心房颤动是最常见的心律失常,心房颤动的危害大且治疗效果欠佳,我们拟通过生物信息学方法联合机器学习算法,探索心房颤动患者的关键基因,并探寻在心房颤动治疗中具有潜在治疗作用的小分子化合物,为临床上心房颤动的诊断及治疗提供新靶点以及新药物。研究方法:在这项研究中,我们通过登入NCBI(National Center for Biotechnology Information)进入其中的基因表达合成(Gene expression omnibus,简称GEO)数据库中,下载了五组与心房颤动相关的基因表达数据集(GSE79768、GSE14975、GSE41177、GSE115574和GSE2240),其中GSE2240数据集选作为验证集,其余的四个数据集被用来作为训练集,用于深度分析。首先,使用R软件中的“limma”包在训练集中筛选出显著差异表达基因(Differential expression genes简称DEGs),同时在训练集中也进行加权基因共表达网络分析(Weighted gene co-expression network analysis,简称WGCNA)确定与房颤最显著相关的基因模块;其次,我们将显著差异表达基因和与房颤最显著相关模块基因取交集,将此交集基因考虑为心房颤动的相关基因(本文称为重叠基因),并进行了GO/KEGG功能富集分析、蛋白质-蛋白质相互作用网络分析、mi RNA-m RNA调控网络构建以及c MAP数据库小分子药物预测。接下来,我们使用三种常用的机器学习方法(LASSO、RF和SVM)来进一步筛选心房颤动最重要的相关基因(从重叠基因中进一步筛选出最相关的基因,简称为特征基因),并构建了由特征基因组成的房颤诊断预测模型,并在训练集和测试集中验证模型性能(曲线下面积及校准曲线)。此外,我们使用CIBOERSORT工具帮助了解特征基因与22种免疫细胞之间的相关性。最后,我们针对重叠基因(根据在房颤疾病中上下调关系)在c MAP数据库内部进行比对,寻找到一系列潜在小分子化合物,通过与特征基因的编码蛋白进行分子对接模拟,测试其结合可能程度。研究结果:(1)通过对本研究中训练集的基因进行差异表达分析,总共得到75个差异表达基因;(2)通过对本研究中训练集的加权基因共表达网络分析,一共得到15个基因模块,其中青色模块179个基因与心房颤动的负相关最强(r=-0.52,p=3e-10);(3)对青色模块的179个基因和差异性表达的75个基因合并取交集得到42个重叠基因,行GO富集分析显示这42个重叠基因在生物过程(BP)方面主要富集参与突触装配、典型Wnt信号通路的调控、典型Wnt信号通路、钙离子跨膜转运体活性的负调控、肌浆网钙离子转运等生物过程;KEGG分析显示这42个重叠基因显著富集在矿物吸收、甘油脂代谢、心肌收缩、CGMP-PKG信号通路、Wnt信号通路等;(4)对这42个重叠基因使用三种常用的机器学习方法进一步筛选(最小绝对收缩和选择算子(LASSO)算法、支持向量机递归特征消除(SVM-RFE)算法和随机森林(RF)算法),最终确定了ANGPTL2,C1orf105和DHRS9为心房颤动的最关键基因(即特征基因);(5)通过曲线下面积(AUC)展示单个特征基因预测房颤的准确性,在训练集中ANGPTL2、C1orf105和DHRS9的AUC分别为0.871(95%CI:0.801-0.930)、0.826(95%CI:0.749-0.896)和0.843(95%CI:0.761-0.914);在测试集中ANGPTL2、C1orf105和DHRS9的AUC分别为0.950(95%CI:0.860-1.000)、0.740(95%CI:0.515-0.930)和0.975(95%CI:0.910-1.000),表明这三个基因在内部及外部数据集中对房颤均具有良好的预测诊断性能;(6)免疫浸润分析发现:ANGPTL2与CD8 T细胞和嗜酸性粒细胞相关;C1orf105与自然杀伤细胞活化、巨噬细胞M1、活化的树突状细胞和γδT细胞相关;DHRS9与肥大细胞的激活和失活有关;(7)在c MAP数据库中寻找到潜在治疗房颤相关小分子化合物:钙离子通道阻断剂VU-0413807-2,与ANGPTL2编码的蛋白进行分子对接模拟,同时设置阳性对照(已知ANGPTL2编码蛋白其中一个靶点CACNA1G),氢键结合能及均方根误差都比阳性对照组好,显示出其能够结合我们的房颤关键靶点蛋白,从而起到治疗房颤作用。结论:1、本研究表明ANGPTL2、C1orf105和DHRS9可能在心房颤动中起关键作用;2、ANGPT2、C1orf105和DHRS9可能通过影响免疫细胞浸润而影响心房颤动的发生;3、发现小分子化合物VU-041

关键词： 机器学习   肺癌   术后心律失常   风险因素   预测模型  

摘要： 目的:1、研究肺癌患者术后并发心律失常的现状,并探索其发生的相关危险因素;2、探讨机器学习算法模型在预测肺癌术后心律失常中的应用价值,为临床风险评估提供有效手段和工具。方法:本研究拟收集2022年6月-2022年12月南昌大学第一附属医院符合纳入标准和排除标准的胸外科234例非小细胞肺癌(NSCLC)患者相关病例资料,采用SPSS 26.0统计软件对采集的各个观察指标进行单因素及多因素分析。单因素分析,计量资料采用Wilcoxon秩和检验分析,计数资料采用卡方检验分析;多因素分析,采用二元Logistic回归算法进行分析,结果输出肺癌术后并发心律失常的独立危险因素,并构建简单机器学习Logistic回归风险分类预测模型。相关因素分析结果以P<0.05表示差异有统计学意义。利用基于python语言搭建的机器学习算法决策树(DT)、随机森林(RF)和支持向量机(SVM)对肺癌术后并发心律失常进行分类,构建另外三种风险分类预测模型。根据各个模型输出的风险分类预测结果,通过计算的ROC曲线下面积(Area under curve,AUC)、准确度(ACC)、精准度(Precision)、召回率(Recall)和f-score,来评估模型的预测性能。结果:1、现状分析本研究通过分析234名肺癌术后患者48-72小时内中并发心律失常的现状调查,心电报告结果显示肺癌术后发生心律失常患者人数为44人,占总人数的18.8%。其中术后并发心律失常主要类型有:心房颤动、房性心动过速、房性早搏、室性心动过速、室性早搏、束支传导阻滞、心脏骤停和窦性心律不齐等。房性心律失常26人占总人数的11.1%,占心律失常人数的59.1%,心房颤动12人占总人数5.1%,占心律失常人数的27.3%。2、危险因素分析单因素分析结果显示:年龄≥60岁、吸烟、冠心病、术前化疗、术前心电图、术中输血、术后电解质、手术方式、手术范围、纵隔淋巴结清扫、淋巴结转移、病理类型为鳞癌、病理分期、手术时长、BNP、FEV1%,共16个变量差异有统计学意义(P<0.05),为肺癌的术后相关危险因素。多因素Logistic回归分析结果显示:年龄≥60岁、冠心病、术前心电图、术中输血、手术时长、BNP,共6项肺癌术后心律失常的独立危险因素(P<0.05),FEV1%为1项肺癌术后心律失常的独立保护因素。3、Logistic回归模型、决策树模型、随机森林模型和支持向量机模型的准确率(ACC)分别为88%、81%、94%、92%,召回率(Recall)分别为79%、0.76%、90%、85%,精准度(Precision)分别为 83%、71%、86%、88%,受试者工作特征曲线(ROC曲线)下面积(AUC)分别为0.90、0.83、0.95、0.94。随机森林和支持向量机的识别精度高于Logistic回归和决策树的识别精度。在肺癌术后并发心律失常的预测分类模型中,随机森林和支持向量机的预测准确度高于Logistic回归和决策树的准确率。随机森林预测模型效能最佳,决策树的性能最差。4、肺癌术后心律失常发生率较高,主要与年龄≥60岁、冠心病、术前心电图、术中输血、手术时长、FEV1%、BNP等因素密切相关。随机森林模型在预测肺癌术后心律失常精度性能上优于支持向量机模型、决策树模型和Logistic回归模型,而Logistic回归模型对变量的解释能力强于其他模型。因此,实际应用时,可相互配合。结论:1、心律失常是胸外科肺癌根治手术术后常见并发症之一。本研究中肺癌患者术后并发心律失常发生率为18.8%,房性心律失常最为常见,占总人数11.1%,其中术后心房颤动发生率为5.1%。2、年龄≥60岁、冠心病、术前心电图、术中输血、手术时长、BNP是肺癌术后并发心律失常的独立危险因素,FEV1%是独立保护因素。3、本研究应用的机器学习算法风险分类预测模型中,Logistic回归、决策树、随机森林、支持向量机四种算法模型均可以对肺癌术后有无并发心律失常进行较准确预测。其中,在预测精度上,随机森林模型性能最好,支持向量机模型性能次之,再分别是Logistic回归模型和决策树模型。4、由于Logistic回归模型可对变量赋值,输出各个变量的预测概率,拥有对风险变量的解释能力,能更加直观地描述肺癌患者术后并发心律失常与危险因素间复杂的网络风险机制。临床上可以将Logistic回归模型与随机森林模型实际联合使用,为肺癌患者进行术前预测和筛查提供强大而有效的临床评估工具和手段。从而减少肺癌术后并发心律失常的发生率,减少患者住院费用,降低卒中和死亡率,改善患者长期预后,具有一定的临床指导意义。

关键词： 机器学习   复杂网络   投资组合优化   全局最小方差模型  

摘要： 沪深300指数是我国A股市场的重要指标之一,它包含了沪市和深市300家规模较大、流动性较好的上市公司,代表了中国A股市场的整体走势。在此背景下,本文所提出的基于机器学习方法的两步骤投资组合优化以沪深300指数为研究对象,构建投资策略,从中挑选出具有投资价值的股票。 策略总体分为两个步骤,第一步是股票选择,利用Rice Quant平台上的因子,通过因子有效性分析,选出5个技术类因子和11个基本面因子,同时使用主成分分析法降维,降维成8维的特征,采用XGBoost和Light GBM机器学习方法建模,对沪深300指数股票池中的股票进行筛选,筛选出上涨概率较大的股票;第二步是投资组合优化,基于复杂网络理论,将股票市场看作是一个复杂网络,每只股票是一个节点,算出每只股票对数收益率之间的相关系数,利用阈值法,相关系数大于阈值存在连边,计算复杂网络的拓扑指标聚类系数,构建聚类系数矩阵,用聚类系数矩阵替换全局最小方差模型中的相关系数矩阵,从而改进全局最小方差模型,对第一步得到的股票进行投资组合,确定每只股票的投资比例。每日按照股票的投资比例进行交易,根据交易回测结果,计算相关的指标对量化策略进行评价。 在实证分析部分,本文选取2016年1月4日到2020年12月31日的沪深300指数成分股的数据进行建模,2021年1月4日到6月30日的数据作为回测期间。回测内容分成两个部分,第一部分是只使用机器学习模型选出上涨概率较大的股票,每只股票等权重购买。第二部分是使用本文提出的两步骤投资组合优化。回测结果表明,在不同参数的选择下,两步骤的投资组合优化都要优于第一部分的等权重购买策略。

关键词： 机器学习   股票市场预测   K线图   投资者情绪   视觉信息  

摘要： 中国和美国的股票市场在投资者结构、市场环境等方面存在很大差异,这些差异与投资者情绪及股票市场趋势息息相关。受技术限制,以往研究大多基于从K线图中提取出的、量化后的技术指标对股票市场进行预测,无法直接识别和分析K线图,从而忽视了K线图中的视觉信息对投资者的认知、注意力、情绪等方面的影响;同时,以往文献在股市预测中对中美股市的对比研究也十分有限。卷积神经网络作为目前发展相对成熟的机器学习算法之一,可直接对图片等高维度数据进行分析和预测。因此,本文使用机器学习算法对中美股市进行预测,并探究影响模型预测效果的因素。本文使用机器学习算法对中美股市的代表性指数——沪深300指数和标普500指数的价格走势进行了预测,并将图片型数据和数值型数据作为不同输入,比较这两类数据在中美股市的预测效果。同时,本文依据模型预测效果高低将数据集进行分组,并选取相关指标对分组后的数据集进行差异分析,以探究影响模型预测效果的可能原因。本文尝试从图片带来的视觉冲击和投资者情绪两个角度对所得结果进行诱因分析与解释,通过改变K线图特征、划分牛熊市数据集等方式作进一步分析与讨论。同时,本文还比较了不同机器学习算法在中美股市预测方面的表现。最后,本文通过更换样本数据集、调整模型结构、更改预测目标、引入新样本数据等方式检验了结果的稳健性。本文结果表明,在个人投资者占主导的中国股市,相比于数值型数据,图片型数据的预测效果更好,这可能是因为,K线图是个人投资者进行投资决策的主要参考依据,其对投资者(尤其是个人投资者)的决策影响较大;而在机构投资者占主导地位的美国股市,图片型数据没有包含更多的预测信息,这可能是因为,美国市场发展更为成熟,投资者更为理性,K线图不是主要决策依据,也没有包含非理性信息。此外,本文发现,只有在使用卷积神经网络预测中国股市时,部分指标差异显著。即在中国股市,对于模型预测效果好的数据组,其历史收益率均值和峰度更高、历史上涨情况出现更多,而在美国股市,本文没有发现这一现象。这可能是因为,指数收益率均值、峰度、上涨所占比重会反映在K线图的具体特征中,通过视觉冲击和情绪两种方式影响个人投资者的感知和注意力,从而影响模型的预测效果。此外,本文结果还表明,相比于其他模型(长短期记忆模型、随机森林模型),卷积神经网络模型对股票市场趋势的预测效果更好。

关键词： 创伤性颅脑损伤   机器学习   卷积神经网络   支持向量机   支持向量回归机  

摘要： 目的当前,成人和儿童创伤性脑损伤的治疗和护理是一个难以解决的全球健康问题。对创伤性颅脑损伤患者的预后和住院时间进行预测可以使得临床治疗效果获得提高,并有助于实现精准医疗,从而大大减少社会医疗负担。随着现代社会计算机技术的蓬勃发展,使得将新的机器学习方法应用于创伤性颅脑损伤（traumatic brain injury,TBI）领域成为可能,已有相关研究表明,计算机方法可以用于患者的相关临床结果的预测研究,准确率较高,对于确定临床治疗的预后和成本效益可能很有价值。本研究共收集了1112位临床诊断为TBI患者的相关临床资料并对其进行回顾性分析,结合多种机器学习（machine-learning,ML）方法和国内外相关研究结果,建立混合模型,用于预测成人和儿童创伤性颅脑损伤的预后和住院时间。方法我们设法收集了2017年5月至2022年5月期间安徽医科大学第二附属医院神经外科中心收治并诊断为TBI患者的相关临床信息,通过筛选和随机分割,其中80%用于训练模型,20%用于测试模型。对于两种预测结果我们分别对比构建了目前国内外研究常用且精度较高的四种机器学习模型,并且使用五次交叉验证方法对模型进行了反复训练和测试,以避免出现过度拟合的情况。在机器学习模型中,11种自变量被用作输入变量,用于评估患者预后的GOS评分和患者的住院时间被用作输出变量。模型训练完成后,我们利用五轮交叉验证方法获得了每个机器学习模型的误差并进行比较,以选择最佳预测模型。最后,为了进一步验证我们的实验结果,我们收集筛选并利用2021年6月至2022年2月期间在安徽医科大学第一附属医院神经外科中心治疗的TBI患者的临床数据对所有模型进行了外部测试。结果最终建立的卷积神经网络-支持向量机（convolutional neural network-support vector machine,CNN-SVM）混合模型预测作为TBI患者预后的GOS分类结果的准确率（accuracy,ACC）在测试集和外部验证集中分别为93%和93.69%,曲线下面积（area under curve,AUC）在测试集和外部验证集中分别为94.68%和94.32%。最终建立的卷积神经网络-支持向量回归（convolutional neural network-supportvector regression,CNN-SVR）混合模型预测TBI患者住院时间的平均绝对百分比误差（mean absolute percentage error,MAPE）在测试集和外部验证集中的结果分别为10.72%和10.44%,该混合预测模型在测试集和外部验证集的决定系数（R2）分别为0.93和0.92。我们的混合模型与单独建立的反向传播神经网络模型、卷积神经网络模型和支持向量机模型相比,获得的预测结果最优,并具有很高的可信度。结论本研究证明了通过结合多种新型机器学习方法建立的两个混合模型的临床效用,可以用于准确预测成人和儿童创伤性颅脑损伤的预后和住院时间。这些模型的应用可以减轻医生在评估创伤性颅脑损伤患者时的负担,协助临床医生进行医疗决策,并为以后的相关研究者提供了一定的参考。

关键词： 初期产能   主控因素分析   机器学习   集成学习  

摘要： 随着人工智能技术的不断发展,机器学习在油气领域的应用不断扩大和深化。机器学习以数据为基础,为预测初期产能提供了新的思路。海上砂岩油藏定向井初期产能影响因素差异较大,使用传统产能预测方法泛化能力较低,难以有效地实现规模性预测。然而机器学习将初期产能的预测重点转移到数据特征上,避免了传统预测方法对数据和模型的过度依赖问题,使得机器学习的预测结果更具有普适性。 本文介绍了机器学习预测初期产能的研究框架,明确了油气大数据分析利用的一般流程和主要方向,并对机器学习的建模过程和预测过程进行了研究。机器学习需要较高质量的数据来训练模型,但现实中的数据常常存在数据缺失、数据异常和噪声等问题,这会严重影响机器学习的预测性能和准确性,因此需要进行数据预处理。 通过主控因素分析,本文确定了研究区初期产能的主要受控因素为渗透率、含油饱和度、孔隙度和含水率,表明该区域储集层岩石对流体的传导性能、石油在岩石孔隙中所占的空间体积、岩石的储集性能和油井出水状况对初期产能有着决定性作用。通过对机器学习模型预测初期产能的结果分析,可知线性回归模型不适用于复杂生产和地质条件下的初产预测。BP神经网络随着不断地调整神经元之间的连接权重,使得网络对训练数据的拟合能力不断增强,但模型容易产生过拟合问题,导致模型最终的预测效果不佳。尽管支持向量机模型可以提高预测效果,但与多元线性回归模型和BP神经网络模型类似,均存在预测初期产能较大数据时预测结果偏差较大的问题,故采用对“离群点”预测效果更好的CART回归树模型,发现树模型使得整体预测效果进一步提升。最后本文提出了一种新的集成算法——基于特征相似度的模型选择集成算法,通过融合不同基学习器在部分井上的预测优势,实现了精细化预测,从而使得整体的预测效果更佳。通过对不同机器学习预测模型的对比和优选,最终认为集成学习具有稳定的预测性能与良好的预测效果,可以考虑用于实际油田中,并为初期产能预测提供新的预测方案。