关键词： Biostatistics   Genetics   Bioinformatics  

摘要： Large-scale genome-wide association studies (GWAS) have enabled detection of numerous candidate genetic loci that may impact human diseases, expanded our knowledge about the underlying biological mechanisms and pathways for complex disease phenotypes, and provided tangible biological targets for treatment and drug development. Moreover, GWAS summary statistics have improved disease risk assessment for complex disease phenotypes paving the way for early disease detection, intervention, and mitigation strategies with the added potential of risk-based stratification for differential treatments. However, existing statistical models and inference suffer from limitations of disease phenotypes, including (i) ambiguity in disease definition (where genetically distinct disease phenotypes are defined as the same disease/disease complex) and (ii) disease misdiagnosis/misclassification (where errors in phenotype misclassify a disease case as a control and vice versa). Current methods addressing these issues show reasonable performance, however, these methods may be improved by exploring alternative methodologies and incorporating constraints for a typical GWAS dataset. In this dissertation, I propose a Bayesian hierarchical latent variable model, PheLEx (Phenotype Latent variable Extraction of disease misdiagnosis) and a bootstrapping approach PheBEs (Phenotype Bootstrapping Estimation method) for the extraction of misclassification errors in GWAS phenotypes. Performance of both methods is evaluated using simulated GWAS datasets and real GWAS phenotypes from the UK Biobank dataset. Improved performance of proposed methods over existing methods in identifying misclassified individuals in simulated GWAS phenotypes indicates potential for improved GWAS statistical power and candidate loci discovery through use of these methods. Finally, I propose an alternate disease risk assessment method for computation of disease risk scores and phenotype prediction. The proposed alternate dise

关键词： 机器学习方法   无监督特征选择   机器学习模型   弱监督学习  

摘要： 近年来,随着学术界与工业界在机器学习和人工智能领域投入的关注越来越多,相关技术飞速发展,机器学习已经在社会生活的方方面面获得广泛应用,并产生了巨大价值.随着机器学习模型应用场景的不断扩大,越来越多的问题难以被经典条件下的机器学习方法所解决.新兴的应用场景下,人们往往面临数据模式发生变化、数据特征发生变化、学习任务目标发生变化等动态场景;数

关键词： 智慧医疗   非平衡数据   级联学习   小样本学习   对抗学习  

摘要： 近年来,随着机器学习技术的兴起尤其是深度学习技术的蓬勃发展,人类社会迎来了人工智能的黄金时代。在新时代背景下,大量卫生保健数据加速创建,传统医疗正逐渐向智能模式转变。如何从海量电子病历中获得有价值的医学信息,是智慧医疗发展的需求,也是目前构建智慧医疗体系所面临的重大挑战。相关实验研究表明,大量的准确标注的训练样本是使用机器学习方法获得准确率高、泛化性能好的模型的基础。然而,在医疗领域,对于某些发病率较低的疾病,往往没有足够的病例数据。如何从少量的病例样本中泛化罕见的类别,是智能医疗领域的难点问题,同时,也是机器学习领域的热点问题,具有重要的现实意义。在实际医疗场景下,有两类典型的训练样本数据不足的情况:一类是高度非平衡的病例数据。以产前筛查数据为例,这类数据一般是结构化文本,由于疾病发病率低,阳性样本少,且特征之间具有未知关联性,学习难度很大。另一类是小样本医疗影像数据。由于某些疾病的亚型种类很多,某一类亚型的样本数量相对较少,使用数据饥饿的深度学习框架学习这类图像的时候往往会发生过拟合现象,从而致使该类亚型疾病的识别准确率极低。本文主要针对以上两种情况开展相关的研究工作。对于高度非平衡数据的学习方法研究,本文针对单一的有监督学习和无监督学习方法不能兼顾检出结果的假阳性率和检出率的现象,提出有监督和无监督学习相结合的级联学习方法 CVIFLR(Cascaded Framework of Voting Isolation Forests and Logistic Regression)。该方法通过级联的模式,将无监督学习的泛化性和有监督学习的精准性相结合。摆脱了传统的基于重采样技术的非平衡学习方法的模式与弊端,全面提升分类性能。本文使用吉林省产前筛查数据作为实验数据集,在该数据集上对比分析常用的非平衡学习方法,利用CVIFLR框架筛选最优的输入特征组合,训练具有地方特色的产前筛查模型。对于小样本图像的识别方法研究,本文在对比分析基于度量(Metric-based)的小样本学习方法的基础上,针对其特征提取网络深度较浅,特征提取能力不足的问题,引入Dense Layer结构。在加深网络深度的同时,提高网络的特征和梯度的传递效率,克服网络加深而产生的过拟合现象。并通过对抗学习的方法来训练模型,进一步提高网络的泛化能力和小样本图像识别的准确率。实验结果表明,本文提出的CVIFLR级联算法,对高度非平衡的文本病例数据有很好的分类效果。在类别比例为阴性:阳性=10244:108的吉林省唐氏综合征产前筛查数据集上的分类性能优于现有的非平衡学习方法,通过参数调整,AUROC可达到0.99。而本文提出的两种原型网络改进算法(Dense P-net,GAN-DPN),能从少量的样本图像中提取具有泛化能力的类别特征,在小样本学习常用的miniImageNet数据集上做5-way 1-shot和5-way 5-shot分类任务,识别准确率均高于原始的原型网络算法。本文的三个算法为不均衡数据异常发现和小样本图像识别提供了有效方法,在医学、军事、工业等领域都具有一定的应用价值。

关键词： 信用卡   机器学习   欺诈检测   样本不均衡  

摘要： 信用卡起源于二十世纪初的美国,并于二十世纪六十年代开始流行。在1985年中国也开始使用信用卡。信用卡在全球范围内都非常流行,有无数的信用卡使用者。信用卡因其安全、快捷、方便的特点广受用户的喜爱。根据信用额度进行提前消费,定期还款的方式也很符合现代人的消费习惯。随着全球经济的高速发展和互联网的兴起,信用卡在互联网的使用也越来越普及。但是随之而来的信用卡欺诈也给信用卡业务的发展带来了阻碍。全球每年因信用卡欺诈而损失了数百亿美元。建立信用卡欺诈检测系统对于信用卡业务的发展十分重要。本文对比了时下热门的几个机器学习中的信用卡欺诈检测模型。逻辑回归由于在二分类问题中效果很好,训练速度快,可以计算出特征的系数,可解释性强这些优点,被广泛的应用在信用卡欺诈检测中。决策树被应用于信用卡欺诈检测则是因为于其容易可视化,在分类问题中较容易理解,而且决策树受数据本身的影响较小,即不需要对数据做特征选择,本身的建模的方向也是选择最优的特征。但由于逻辑回归有欠拟合的风险、决策树有过拟合的风险。所有本文也同时用一些集成算法来对信用卡欺诈进行检测。随机森林、Adaboost-Tree和GBDT都是以决策树为基学习器的基分类器,所以他们也继承着决策树的优缺点,但相比于决策树有更高的精度。由于信用卡欺诈数据是一个高度不平衡的数据,在本文所用的数据中,28万笔信用卡交易只有400多例是信用卡欺诈交易。样本高不平衡容易使得分类器在训练时朝着多数类的方向进行,为此本文采用了两种采样方法来平衡样本集。通过分类器和采样方法的一一组合,再通过代价敏感矩阵确定了分类的阈值。通过对比,BSMOTE-Adaboost分类器对于信用卡欺诈检测的效果最好,在召回率87%的情况下,精确度也能达到92%。但由于Borderline-SMOTE对训练样本进行了“过采样”,使得训练样本成倍的增加,再加上boosting算法本身的运算速度也比较慢,导致BSMOTE-Adaboost的运算时间是所有算法中最慢的。相比于无重采样的随机森林算法,其运算时间大概是随机森林算法的5倍以上。且随机森林算法的召回率也有82%以上,精确度甚至能达到97%以上。所有如果考虑运算时间,随机森林算法对于信用卡欺诈检测也比较适用。

关键词： Homeowners insurance   Infection   Machine learning   Agricultural insurance   Climatic changes  

摘要： There is growing scientific evidence that adverse weather events are increasing in frequency and intensity. Such natural hazards can be largely separated into two groups. The first group comprises extreme events and natural disasters such as hurricanes, severe storms and tornadoes that due to their severity can be regarded as catastrophes. This group of extreme events is widely explored in statistical, climate, and engineering literature, and in practice is typically handled by the reinsurance industry. The second group of adverse atmospheric events includes the so-called low individual but high cumulative impact (LIHC) events, such as heavier than normal rain or stronger than usual wind speed. While these adverse events are not classified as catastrophes and their individual impact might be noticeable but low (e.g., roofs of a few houses in the neighborhood are damaged), the joint cumulative impact of such events is substantial and tends to increase over the years. Furthermore, LIHC events are largely unexplored from statistical, actuarial and engineering perspectives, and our society, with often outdated city critical infrastructures, remains vulnerable and unprepared to such climate scenarios of increasing LIHC events. In this thesis, first, we have investigated statistical and data science methods that can be used not only to model but also to predict the impact of LIHC events on the residential sector. We have developed a nonparametric LIHC risk analysis that allows to account for the impact of multiple exogenous atmospheric variables on the dynamics of home insurance claims. Second, we have explored the impact of climate dynamics on agriculture. Indeed, agricultural production systems are highly vulnerable to shorter-term extreme weather events and longer term climate variability and change. Resulting environmental impacts drive broader economic and social impacts on farmers, insurers, and other stakeholders across agricultural supply chains. Improved multivar

关键词： 股票趋势预测   分类不均衡   代价敏感   支持向量机   随机森林  

摘要： 现代社会,股票已成为大众所热衷的投资手段之一。若可以预测股价的走势,就可以在适当的时机对交易市场进行一定的调控引导,对投资者的投资方向也有指导意义,对相关经济领域的健康发展也有参考价值。针对股票数据高维度、噪声大、低稳定特点,如何利用机器学习来分析预测股票趋势成为了新时期的热门课题。目前,基于机器学习的量化分析和股价涨跌预测技术大多是将股价的升高和降低看作是一个二分类问题开展研究。但是,在以往的股票量化分析研究中,对这个分类问题中可能出现的数据集不均衡问题没有引起充分关注,比如:一段时间内,股票市场会出现“牛市”或“熊市”的特殊情况,在“牛市”中,所有股票上涨的几率远大于下跌的几率,在“熊市”中则相反,大部分股票都容易处于下跌的状态。由于分类明显不均衡,这使得市面上常用的分类算法在特殊情况下很难做出精准预测,无法帮助投资者在“牛市”或“熊市”中更好的规避风险或者获取收益。为了解决分类不均衡时的股票价格涨跌趋势预测问题,本文将代价敏感学习的思想引入预测模型研究,做了以下四个方面的工作:1.数据收集及特征选择。在白酒、券商、医药、教育、科技板块中选取比较具有代表性的5支股票,收集2017年全年249个交易日最高价格,最低价格,收盘价格,成交量等数据,以分钟为基本粒度对近30万条数据进行清洗并划分数据集,开展特征工程,建立收盘价的简单移动平均值(SMA)、收盘价的指数加权移动平均值(EWMA)、股票动量指标(MTM)、相对强弱指标(RSI)等8个重要特征。2.提出一种代价敏感函数。基于代价敏感学习的处理方法,根据样本实际分布构造代价因子,将权重距离引入代价函数的计算过程,构建一种综合考虑各个特征重要性的代价敏感函数,称为:多因素加权代价敏感函数,它能更好地捕捉在此问题中不同类别的误分代价,防止少数类被忽略。3.设计两个分类算法。通过将多因素加权代价敏感函数分别与支持向量机和随机森林相结合,分别设计了两个代价敏感分类算法,即代价敏感支持向量机(Cost Sensitive-Support Vector Machine)和代价敏感随机森林(Cost Sensitive-Random Forest),并在训练集上优化模型;同时,设计加入防恶意操作策略,从而防止“庄家”和投资者在使用相同的模型预测时进行恶意操盘的情况发生。4.指标评价和测试验证。为了更好的评价模型在不均衡分类问题中的表现,采用AUC作为评价指标,在所构建的股票数据集上,将这两种分类器和市面常用的股票趋势预测模型进行了对比实验,实验结果表明,本文研究设计的两种二分类算法训练的模型效果更好,可以为投资者在“牛市”或“熊市”市场环境下的股价涨跌预测问题提供参考。

关键词： 方法评估   双机器学习   因果森林   广义随机森林  

摘要： 本文结合实验数据和非实验数据来评估应用于因果推断的机器学习相关方法在复制实验结果方面的表现。其中实验数据来自在职培训(Job Training Partnership Act)社会实验,非实验数据则来自符合条件非参与者(Eligible Nonparticipant)数据库。本文所考虑的机器学习相关方法包括基于回归的双机器学习(Double Machine Learning)和基于树的因果森林(Causal Forest),倾向森林(Propensity Forest),以及广义随机森林(Generalized Random Forest)。其中在双机器学习方法下,本文考虑了四种机器学习算法,而对于因果森林以及倾向森林,本文则考虑了四种分裂规则。本文首先结合实验数据中的非处置组和非实验数据中的非参与者组合成复合数据。接着将前文所提到的方法应用于该复合数据得出参与者的平均处置效应,即该方法的估计偏差,此处的偏差值为估计量与真实实验所得处置效应值之差。本文考虑四个子样本,最后通过比较子样本内各种方法所得偏差值来比较其在复制实验结果方面的表现。由于本文所用的数据集中协变量个数较多,本文考虑了协变量少和协变量多两种设定。在协变量少的情况下,作为比较,本文还将相同的评估框架应用于传统的计量方法。本文研究发现:双机器学习估计量在协变量较少和较多情况下都能够较好的重现实验结果。双机器学习估计量在两种设定下的四个子样本中都获得了相对较低的偏差值;除此之外,双机器学习估计量在复制实验结果方面总体上优于传统的回归估计量。另外一方面,因果森林和倾向森林估计量的误差值接近于没有经过任何计量方法调整的简单均值差估计量;广义随机森林估计量所得的误差值则取决于所用的子样本和所包括的协变量。

关键词： 长输管线   地质灾害   信息量模型   机器学习   因子筛选   循环欠采样  

摘要： 长输管线是油气运输的重要载体,管线的安全运营是国民经济发展的重要保障,因此,管线的安全防护尤为重要。长输管线覆盖范围广,沿线区域地形特征较为复杂,地质灾害易发,研究长输管线沿线区域的地质灾害对长输管线的防护具有重要意义。目前,对于地质灾害的研究普遍采用权重定级的方法,该方法较大程度依赖于评定人员的专业素质,其计算结果可能存在较大的人为误差,且难以用少量地质灾害点实现对较大区域的地质灾害模拟。本文充分考虑影响地质灾害的外界环境、地质特征、人类活动等因素,以机器学习的方法,利用现有地质灾害点计算出整个长输管线沿线各区域发生地质灾害的概率。通过长输管线与地质灾害的空间位置关系,对长输管线沿线地质灾害的防护提出了建议。主要研究如下:(1)利用研究区的地质灾害数据获得地质灾害点,通过研究区的DEM数据提取出高程、坡度、坡向、曲率属性,通过研究区地理国情数据提取出河流、道路、建筑密度、植被覆盖率等属性,通过研究区地质图提取出地层和断裂带属性。经数据预处理,形成了适合地质灾害分析的数据集。(2)将长输管线沿线区域划分为74521个评价单元,通过信息量模型实现研究区地质灾害的评价。通过信息增益、信息增益率实现了评价因子重要性评判,根据评价因子的重要程度,采用人工神经网络筛选出了最佳评价因子组合。(3)基于Python实现了逻辑回归、支持向量机、人工神经网络、决策树和随机森林机器学习算法,采用ROC曲线进行了模型精度对比。在计算过程中,采用循环欠采样的方法,解决了地质灾害样本严重少于非地质灾害样本的正负样本不均衡问题,实现了以现有地质灾害点对整个长输管线沿线区域地质灾害的预测。(4)通过与信息量模型评价结果的对比,证明了机器学习方法在地质灾害模拟中的适用性。根据长输管线与地质灾害的空间位置关系,结合地质环境条件对长输管线沿线地质灾害的防护提出了建议。

关键词： 海洋污染   船舶溢油事件   损害评估   机器学习  

摘要： 近年来，随着海洋资源开采、航运业不断的发展与深入，海洋为人类提供石油、粮食等资源的能力愈加突出，使得人类对海洋的重视程度不断加强，而与此同时负面影响随之而来，海洋污染问题愈加严重，在当前社会背景下，保护海洋环境这一问题变得尤为重要。海洋污染问题中，船舶溢油事件最为突出，溢油事件往往会带来严重的经济损失，给海洋带来生态灾难的同时，严重危害着人类的生存与发展。而这一类事故存在一个突出的问题便是损害评估难以界定，发生船舶溢油事件后，专业化的损害评估耗时长，评估慢，责任难以界定，导致赔付、清污不及时，对海洋生态恢复存在着巨大隐患。那么如何快速、有效、合理的处理该类事件，在事件发生后第一时间对损害做出评估，便成为目前相关研究领域的重中之重。　　本文将以近几十年来发生的实例为基础，借鉴其得到各方认可评估结果。整合为样本数据，选取各方认可的五类指标（溢油量、油膜面积、油品比重、岸线长度、岸线类型）建立指标体系，梳理损害评估的模型方法、评估思路。针对该类事件，使用机器学习的方法建立模型，分别使用BP人工神经网络、RBF人工神经网络、支持向量机仿真模型进行损害的快速评估、预测，对得出的结果进行对比分析。同时选用多元线性回归分析，分析各指标的赔付金额的影响程度。最终选定最切合实际的模型与影响因素，作为日后处理相同事件的参考。　　本文旨在为船舶溢油事故损害建立快速的评估模型，为该类事件提供借鉴。

关键词： Finance  

摘要： In the age when "Big Data" is becoming almost a household word, such abundance of information in different forms and representations can be of a great help for one's decision-making let it be a trader betting on a stock, or a policy-maker assessing the potential impact of proposed regulation. Whereas traditional economic research is primarily based on the use of numerical data continuous or discrete, there is a great deal of useful information that can be extracted from text data. Such information can power novel identification strategies or help perceive solutions from a different angle, but observed volumes of such data as well as its textual format require additional preprocessing techniques. Recent expansions in the Data Science methods allow to successfully use this alternative source of information and complement traditional economic modelling with a new insight. Abundant "Big Data" information fuels search for yet new market predictors. Some areas of research, asset pricing for instance, produced hundreds of such factors over the past few decades. However, many of these factors are weak and often lose their predicting power altogether after the date of publication. Moreover, traditional least squares approach would break down when studied by the hundreds of these factors, some of which are, in addition, quite highly correlated. To tame the "zoo" of the factors in a given problem, one would want to consider alternative methods suggested in the data science literature, which allow for regularization as well as potential non-linearities in the unobserved model structure. Regularization can also be useful in building a counterfactual { a technique so often used in a policy evaluation questions. In assessment of certain legislation's' effect on the individual or a firm, a construction of hypothetical world in which this regulation never took place is often done through weighted averaging of the units (other individuals, or firms) which were not subject to the regu