关键词： 非编码区域功能   疾病风险注释   数据增强   特征提取   机器学习  

摘要： 众所周知，人类基因数量大概只有20000个左右，仅占基因组序列的1-2％。研究人员困惑于其它＞98％的非编码区的功能与作用。特别是，研究人员观察到大量的非编码区变异。如何利用DNA序列信息以及高通量的基因与表观测序信息，理解非编码序列变异与复杂疾病之间的联系是生物信息学领域一个长期悬而未决的挑战性课题。在过去的十余年中，生物测序数据的急剧增加与积累，为利用数学建模、优化设计、机器学习等计算方法建模与解释遗传变异的致病性提供了可能。　　首先，基于支持向量机的gkm-SVM和深度学习的DeepSEA等从头预测方法在预测DNA序列功能方面取得了巨大进步。基于训练好的模型，可以进一步预测基因组变异的影响。先前的研究证实反向互补和侧翼DNA序列可以提供额外的信息。自然地，使用这些序列与数据扩增技术有着某些联系。然而，人们还不了解这些DNA序列在模型训练和测试过程中是如何工作的。另外，如何从DNA序列中提取信息特征也是一个具有挑战性的问题。如gkm-SVM所示，带空缺的k模在过去几年中作为一种新的特性被提出。然而，核矩阵的巨大计算量使得基于核技巧的方法无法使用大量的样本。如何挖掘带空缺k模的潜力是一个非常必要的课题。　　其次，尽管目前的变异注释方法很流行，但由于人类复杂疾病的多样性，它们可能不适用于对疾病相关的风险变异进行优先级排序。研究普遍认为有必要开发不同的模型来识别疾病特异性风险变异，例如基于决策树的DIVAN方法。但是，疾病特异性方法可能会受限于仅有少量已知疾病相关变异。同时结合复杂疾病之间的内在联系以及疾病特异性方法的优势实现更精确的疾病风险预测是一个很迫切的研究课题。　　本文的主要研究目的是从多个角度发展和改进遗传变异注释的计算方法，提供友好可用的工具。特别是，提出一些数据增强和特征提取技术，以提高基于序列从头预测的能力;通过在疾病关联性和疾病特异性方法中间进行折中，首次提出基于疾病类别进行特异性变异注释的概念和方法。具体来说，本文的主要研究工作如下:　　首先，提出基于序列特点的新型数据扩增技术，提升卷积神经网络在DNA序列相关预测任务的能力，并以转录因子绑定位点预测为例进行系统的探索。与最先进的DeepBind方法不同的是，首先将反向互补DNA序列作为另一个样本处理，这使得卷积神经网络模型能够自动学习双链互补DNA序列之间的组合关系。这个技巧促进了更深卷积神经网络模型的使用，提高了预测性能。其次，通过扩展DNA序列并将每个序列裁剪为三个较短的序列来扩增训练集。由于扩展步骤得到了更多的上下文信息，裁剪步骤提供了正则化效果，大大提高了预测精度。此外，这种方法也适用于更宽的卷积神经网络模型，这也提高了预测精度。基于DNA序列扩增的技术，综合不同的卷积神经网络模型的结果，尝试挖掘基于DNA序列的预测潜力。在156个转录因子绑定位点预测的数据集上，最终预测显著优于相关方法的结果，使受试者特征曲线下面积平均提高了5.7％。　　其次，提出一个灵活的且可扩展的gkm-DNN框架，利用深度神经网络实现高维带空缺k模的频数向量(即gapped k-mer frequency vector，缩写为gkm-fv)的特征表示。首先提出了一个精简版的gkm-fv，它显著地降低了gkm-fv的维数。然后，通过并行计算技巧实现一个高效的方法来计算给定DNA序列的gkm-fv。最后，采用以gkm-fv为输入的深度神经网络模型来实现有效的特征表示和预测任务。这里以转录因子结合位点预测作为应用案例。将gkm-DNN应用于467个小的和69个大的染色质免疫共沉淀测序数据集，验证了其性能，并与目前最先进的gkm-SVM方法进行比较。在使用相同的gkm-fv作为输入时，gkm-DNN可以取得与gkm-SVM相比非常具有竞争力的预测性能。更重要的是，利用gkm-DNN可以探讨gkm-fv的表示能力，解释gkm-fv的工作原理。　　第三，提出疾病类别层面进行特异性风险预测的概念，通过设计一个新的集成学习框架CASAVA，通过使用多种不同的测序特征来实现风险变异的预测和识别。CASAVA准确地识别了24种疾病类别的风险变异，克服了疾病小类不能有效预测的问题。此外，CASAVA在识别疾病特异性风险变异方面与疾病特异性模型取得相当的结果，这意味着CASAVA具有广泛的应用范围。从迁移学习的角度来看，CASAVA为利用疾病特异性和疾病相关风险变异提供了新的见解。以MHC2TA和免疫系统疾病为例，展示了CASAVA在解释变异与疾病关联方面的潜力。为了使CASAVA更容易访问，构建了一个网页门户，允许轻松浏览和查询CASAVA分数（http://***/CASAVA）。

关键词： CO   空气质量   预测   机器学习   均方误差  

摘要： 近年来,一氧化碳(CO)对人们的生活影响越来越大,局部的严重污染还会对人们的健康有很大的危害,本文选用来自意大利的一个严重污染地区的空气质量数据中的CO浓度数据,记录了2004年3月至2005年2月的数据,用机器学习中的支持向量回归机(SVR)、Adaboost、随机森林和迭代决策树进行预测CO浓度,用均方误差(MSE)和确定系数R2作为评判标准,其中迭代决策树算法取得了最好的结果,其MSE为0.60,R2为0.71。

关键词： 机器学习方法   露天矿   卡车状态   时间预测   调度优化  

摘要： 在露天矿采掘生产过程中,如何高效合理的利用采运设备进行生产,是矿山企业发展面临的重要问题。行程时间作为衡量道路通行能力的重要参数,对其进行实时预测,可以实现卡车在运行过程中的实时管控和调度,也是实现露天矿卡车实时调度、控制的关键因素。因此,通过对卡车状态以及状态运行时间进行预测,优化卡车调度模型,以此来提高卡车设备利用率,提高企业经济效益,推动矿山智能化发展,实现高效智能生产。具体工作主要有以下几个方面:(1)针对露天矿卡车状态识别以及状态时间预测所涉及的机器学习理论与算法进行了阐述,并介绍了卡车调度优化理论,为基于卡车状态运行时间预测的调度模型建立与求解提供了思路。(2)针对露天矿卡车在装运卸运输过程中的各种状态,利用机器学习算法建立了露天矿卡车状态识别模型,并利用智能调度管控平台采集到的相关特征数据,进行仿真实验。结果表明:Adaboost算法在露天矿卡车状态识别方面具有良好的识别性能。(3)针对卡车状态运行时间,利用机器学习算法建立了露天矿卡车状态运行时间预测模型,并利用相关特征数据,进行仿真实验。对于每一状态运行时间预测,所适用的最佳机器学习模型是不同的,SVM模型适用于空载和卸载状态运行时间预测,RF模型适用于待装、装载和重载状态运行时间预测。(4)通过对每一状态使用精准预测模型进行卡车状态运行时间预测,将预测结果作为参数带入到调度模型中,建立基于露天矿卡车状态运行时间预测的调度模型。并基于智能调度管控平台采集到的现场卡车实际运行数据,进行数据整合处理后,采用遗传-粒子群混合算法进行求解,得到更加切合实际的调度策略。本文的研究成果,进一步为卡车调度优化提供了新的方法与解决途径,也为智能化调度奠定了基础,对露天矿卡车生产调度具有重要的实用价值。

关键词： 热带气旋生成频数   热带气旋强度突变   多元线性回归   随机森林算法  

摘要： 热带气旋是影响我国的主要灾害性天气系统之一。提高热带气旋的研究和预报水平,对我国经济发展和国防建设具有重要意义。近些年,对于热带气旋路径的客观预报水平有了显著的提高,但其强度预报提升幅度较小。生成频数等长期变化预测不确定性依然很大,目前仍是学者们关注的重点。影响热带气旋生成频数的物理机制复杂,2018年8月共有9个热带气旋生成,相比气候态数量明显偏多。本文利用统计分析方法,对影响显著的物理因子进行分析,表明2018年8月相关区域850 h Pa相对涡度与多年平均值最大正距平达0.25×10-4/s,600 h Pa相对湿度高于多年平均值8%-10%,成为生成频数异常偏多的主要原因。这和西北太平洋副热带高压位置特征、北印度洋至我国南海大范围海域西风异常、南海海域经向风异常、水汽通量异常,以及季风槽的位置相关。本文通过对1979-2018年强度突变热带气旋统计分析,发现热带气旋最易发生快速增强的区域为15°-20°N、125°-135°E之间的菲律宾以东海域。在此区域中挑选出快速增强的热带气旋,首次利用逐小时分辨率海温数据,采用海温区域累积的方法,发现该海温数据在其对强度影响的研究时更具有优势,和强度的相关系数超过0.94。区域累计是研究海温和强度关系的工作中更合理的方法。区域累计海温值相比中心瞬时海温值和中心风速的相关关系更好,相关系数达到0.8以上,可应用到其他物理因子的分析中。基于美国NCEP/NR1再分析数据,提取热带气旋经过区域的大气因子、海洋因子、下垫面因子,以及气旋自身位置、移速等物理因子,并将上述因子的过去12小时变化量共同作为自变量,采用多元线性回归方法建立热带气旋强度统计预报模型,选择美国NECP/GEFS预报数据,对2016年所有热带气旋及强度较强气旋的强度及未来12小时中心最大风速变化值进行预报,并与GEFS预报结果对比。统计模型对热带气旋中心最大风速的预报效果优于GEFS结果,尤其对极值的预报更准确。相关系数超过0.5,均方根误差最大可减小7-8m/s。应用随机森林算法,用同样的数据资料对热带气旋强度预报进行学习,来考察该机器学习方法的适用性,尝试对数值预报结果进行改进。发现随机森林的机器学习方法对于热带气旋强度的预报能力较好,均较GEFS结果有所改善。随机森林机器学习方法对于热带气旋未来12小时变化预报的均方根误差大多保持在6-7m/s之间,相关系数达到0.6。对风速的预报结果相关系数为0.5-0.6,均方根误差最大可减小6-7m/s。为对比机器学习方法和统计方法的预报效果,选取2015-2016年热带气旋强度为样本数据,对2018年热带气旋24、48、72小时强度开展预报。结果显示统计模型和机器学习对2018年24小时、48小时及72小时风速变量的预报结果相对GEFS预报结果均有很好的改善,其中机器学习的效果优于统计模型回归拟合的效果,但最终的预报误差均为统计模型略偏小。将机器学习方法和统计模型相融合后,24小时及72小时预报效果改进更为明显。在风速变量24小时预报中,最优预报结果相比较GEFS预报结果提升44.6%;在风速变量48小时预报中,最优预报结果相比较GEFS预报结果提升31.9%;在风速变量72小时预报中,最优预报结果相比较GEFS预报结果提升26.9%。分析发现,半径、初始风速、500h Pa涡度、200h Pa散度、相对湿度以及与海温相关的因子为影响热带气旋强度最高的因子,这些因子通过影响积雨云的维持和热量的释放,影响气旋内部和外界的质量输送,从而影响水汽、热量的来源以及气旋暖心结构,最终影响热带气旋的强度。预报误差主要由热带气旋预报位置偏差、影响因子值大小和空间分布的预报偏差造成。

关键词： Biomedical engineering   Neurosciences   Brain mapping   Brain--Magnetic resonance imaging   Electroencephalography--Analysis   Cognition  

摘要： Simultaneous electroencephalogram (EEG) and functional magnetic resonance imaging (fMRI) have gained increasing popularity in studying human cognition due to their potential to map the brain dynamics with high spatial and temporal fidelity. Such detailed mapping of the brain is crucial for understanding the neural mechanisms by which humans make perceptual decisions. Despite recent advances in data acquisition and analysis of simultaneous EEG-fMRI, the lack of effective computational tools for optimal fusion of the two modalities remains a major challenge. The goal of this dissertation is to provide a recipe of machine learning methods for fusion of simultaneous EEG-fMRI data. Specifically, we investigate three types of fusion approaches and apply them to study the whole-brain spatiotemporal dynamics during a rapid object recognition task where subjects discriminate face, car, and house images under ambiguity. We first use an asymmetric fusion approach capitalizing on temporal single-trial EEG variability to identify early and late neural subsystems selective to categorical choice of faces versus nonfaces. We find that the degree of interaction in these networks accounts for a substantial fraction of our bias to see faces. Based on a computational modeling of behavioral measures, we further dissociate separate neural correlates of the face decision bias modulated by varying levels of stimulus evidence. Secondly, we develop a state-space model based symmetric fusion approach to integrate EEG and fMRI in a probabilistic generative framework. We use a variational Bayesian method to infer the network connectivity among latent neural states shared by EEG and fMRI. Finally, we use a data-driven symmetric fusion approach to compare representations of the EEG and fMRI against those of a deep convolutional neural network (CNN) in a common similarity space. We show a spatiotemporal hierarchical correspondence in visual processing stages between the human brain and the CNN. Co

关键词： 有机化合物   生态毒性   集成机器学习方法   生态风险评估  

摘要： 随着城市化进程的加快,有机化合物的生产和使用日益增加,给人类带来许多便利和好处。但是,有机化学品的存在伴随着环境污染,影响着自然资源的方方面面,其毒副作用为生态环境带来了极大的负面影响,包括大气,土壤,水和依存的生物等。传统微生物降解有机污染物的方法繁琐、占地面积大、成本高,且无法从源头上阻止污染物进入环境,日益不适应现代社会的快速发展,采用机器学习方法预测和评估有机化合物的生态毒性,可以高效快捷地判断这些化学品可能对于人类和生态环境的潜在风险,并有助于深入开展有机化合物的生物降解研究。本研究采用分子指纹结合三种机器学习方法(包括随机森林、支持向量机和极端梯度提升),分别开发了有机化合物对大气环境、陆地环境和水体环境生态毒性的集成分类预测模型,经过五折交叉验证后,得到集成模型对来自三类模式生物的数据集的整体预测准确度分别达到88.7%、76.1%和92.6%,在接收器工作特征曲线(ROC)下的面积(AUC)为0.870、0.838和0.966。与先前报道的方法相比,集成模型实现了较高的准确率和AUC值。最后,使用随机森林算法进行特征重要性分析,确定了一些能代表性的表征生态毒性的结构特征。综上所述,本文具有以下创新性的工作:(1)开发了对有机化合物生态毒性预测的三个集成分类模型,模型均获得了更优的性能参数,为预测有机化合物的生态毒性提供可靠的技术支持和评估工具;(2)确定了一些有代表性表示生态毒性的警报结构,为更好地进行有毒污染物筛选和生态风险评价提供有力的理论支撑和指导价值。

关键词： 第一性原理   二维材料   机器学习   功函数   铁磁性  

摘要： 自从2004年石墨烯研制成功以来,越来越多的科研人员对二维材料产生兴趣。在过去的十年里,二维材料已经在电池、催化、电子学和光子学等多个领域得到广泛研究。更重要的是,石墨烯的特性激发了科研人员寻找其他二维材料家族的新成员。这些新型二维材料除了可以应用于传感器,LEDs,FETs等电子器件外,还展示了它们在物理学,催化,生物医学和环境科学等学科领域的非凡潜力。近年来,第一性原理理论计算的发展加快了新型二维材料的研发。然而,已知的化合物空间有限,我们需要探索更大的空间。人工智能的一个快速发展的分支是机器学习。这种技术适用于解决涉及大量组合空间或非线性过程的复杂问题,而传统方法要么不能解决,要么只能在很大的计算代价下解决。本论文借助第一性原理计算和机器学习的方法来探索二维材料的电子结构性质。主要包括下面两个方面的内容:(1)结合第一性原理和机器学习预测二维材料的功函数。我们利用原子序数、离子半径、弹性模量、电子亲和能和电离能等容易获得的性质作为输入特征,采用随机森林回归(RFR)、极端随机树回归(ETR)、梯度提升回归树(GBR)和极端梯度提升回归(XGBR)等方法建立模型。XGBR模型在几秒钟内预测的功函数均方根误差(rmse)最低为0.34 e V。利用XGBR模型对新的二维材料进行功函数的预测,并随机挑选几种材料进行第一性原理计算,验证了模型的有效性。(2)我们使用3709种第一性原理计算的二维材料的数据集,利用XGBoost分类器开发了两个机器学习模型来预测二维材料的磁学性质及其热力学稳定性。基于元素属性数据生成了377个特征,两个模型根据特征重要度排序分别选择了前160个和前164个特征,同时这些特征足以生成最准确的模型而不会出现过度拟合的情况。我们通过预测训练集中不存在的化合物的磁学性质和热力学稳定性进一步验证了模型。这些结果证明了机器学习模型是一种快速有效的手段,可为各种二维材料的电子结构性质提供有用的指导,从而可能加快材料的设计。

摘要： Urbanization is manifest by changes in the physical structure of the land surface, owing to extensive construction features such as buildings, street canyons, changes in the thermal structure because of materials of different thermal properties and also intensive human activities. Urban areas are generally also characterized by higher surface air temperatures as compared to the rural surroundings. This temperature excess can be up to 10–12 °C and more and is referred to as the urban heat island(UHI)phenomenon. Since residents living in cities are especially affected by extreme temperature events, urban climate studies are gaining in importance. Currently, more than half of the world s population already lives in urban areas, which accentuates the major role agglomerations must play in mitigation and adaptation to climate change. Recommendations regarding behavioural patterns during heat stress situations and urban planning measures require a comprehensive understanding of the inner urban temperature distribution including the identification of thermal hot spots. Both very cold and very hot temperatures could affect the human health. Excessive exposure to heat is referred to as heat stress and excessive exposure to cold is referred to as cold stress. Urban temperature data (2 m temperature data) is very important for all investigations on the urban heat island (UHI) effect, human health. They are usually either based on remote sensing techniques or air temperature measurements or from models. Remote sensing data like infra-red surface temperature from airborne measuring instruments may have a very high spatial resolution and are presently available for many urban areas, but only in clear sky cases. This spatial resolution is appropriate to exhibit typical urban structures that are expected to cause the UHI effect. Nevertheless, information on surface temperature cannot replace air temperature data, since beside the problem that the former is typically only available

关键词： 脑出血   血肿   机器学习   预测  

摘要： 背景及目的:血肿扩大与脑出血(intracerebral hemorrhage,ICH)患者的神经功能预后不良密切相关。因此,准确预测ICH患者是否发生血肿扩大具有重要的临床工作意义。在此研究中,我们探究了1种双模型的机器学习(machine learning,ML)方法对于血肿扩大的预测能力。此方法的特点是可以将ICH患者的非增强CT(non-contrast computed tomography,NCCT)图像信息与患者的多个临床资料数据结合用于血肿扩大的预测。方法:我们回顾性收集了2016年5月至2018年12月来自吉林大学第一医院的140例ICH患者(其中包含58位发生血肿扩大的患者),总共获得了5616张NCCT血肿图像(其中包含2635张发生血肿扩大的图像)以及每位患者的10个临床资料数据。此研究中使用的双模型ML方法包含2个步骤。第1个步骤是使用1个基于深度卷积神经网络(deep convolutional neural network,DCNN)的单模型预测器,此预测器仅使用患者的基线NCCT图像进行血肿扩大的预测。为了选择合适的DCNN模型,我们同时比较了3个DCNN模型的预测性能,包括ResNet34(residual neural network with 34 layers),VGGNet(visual geometry group network),GoogLeNet(Google inception network)。在此步骤中,我们也探究了血肿分割的方法是否可以提高预测结果。第2个步骤是使用基于多层感知机(multi-layer perception,MLP)的双模型预测器,即将第1步骤中的单模型预测器的结果与患者的多个临床数据结合进行最后结果的预测。计算每个模型预测的敏感度,特异性,阳性预测值,阴性预测值,并且使用受试者工作特征曲线(the receiver operating characteristic,ROC)和曲线下面积(area under the curves,AUC)来评估预测性能。结果:1.在第1步的基于DCNN的单模型预测中,ResNet34预测血肿扩大的性能要优于其余两个网络。使用进行血肿分割图像训练的网络要比使用未进行血肿分割图像训练的网络的准确率低2%-3%。因此,取得最佳预测性能的单模型预测器是使用未进行血肿分割图像训练的ResNet34,其准确率、敏感度、特异性、阳性预测值、阴性预测值分别为69.5%、75.4%、64.9%、62.6%和77.2%,AUC值为0.68。2.在第2步中,结合NCCT图像和10个临床资料的双模型预测器较第1步中的单模型预测器,准确率提升了17%,其准确率、敏感度、特异性、阳性预测值、阴性预测值分别为86.5%、82.6%、88.9%、90.9%和80.0%。AUC值为0.91。结论:1.仅使用NCCT图像训练的单模型预测器,其预测血肿扩大的准确率有限。2.将血肿部分从脑组织背景中分离出来的图像分割方法无法提高预测器对于血肿扩大的预测性能。3.最终提出的双模型预测的ML方法可以将患者NCCT图像信息和临床资料综合分析,能够达到86.5%的准确率以及具有较为均等的敏感度和特异性。因此,该ML方法可以作为有效识别血肿扩大高风险人群的预测工具。

摘要： The radiative decay B → Xsγ and semileptonic heavy meson decay D → πlν are important flavor physics probes of new physics. However, these decays are plagued with nonperturbative uncertainties that are needed to be controlled to obtain a theoretically clean description. In this dissertation, we provide effective field theory and machine learning approaches to controlling these uncertainties. In B → Xsγ, the largest uncertainty on the total rate arises from Q1 - Q7γ operator pair. This contribution is given by a soft function whose moments are related to nonperturbative heavy quark effective theory (HQET) operators’ matrix elements. The extraction of higher-order moments requires the knowledge of higher dimensional HQET operators. We present a general method that allows for an easy construction of HQET and non-relativistic quantum-chromo dynamics (NRQCD) operators containing any number of covariant derivatives. As an application, we list, for the first time, all operators in the dimension eight NRQCD Lagrangian. Then we use recently extracted HQET matrix elements to reevaluate the nonperturbative uncertainty of B → Xsγ total decay rate and CP asymmetry. The decay rate of semileptonic D → πlν is proportional to the hadronic form factors. Currently, these form factors cannot be determined analytically in the whole range of available momentum transfer q 2 , but can be parameterized with a varying degree of model dependency. We propose a machine learning approach with artificial neural networks trained from experimental pseudo-data to predict the shape of these form factors with a prescribed uncertainty. This provides the first model-independent parameterization of D → πlν vector form factor shape in the literature.