关键词： Cancer   Deep Learning   Drug   Features   Genomics   Prediction  

摘要： The current genomics data influx is transforming healthcare by enabling precise diagnoses and individualized treatments. This is especially true for cancer, where we have genome sequencing and gene expression data across numerous individuals, along with measurements of drug response across hundreds of cancer cell lines. Computational, statistical and machine learning methods play an essential role in analyzing these data in order to gain medically relevant insights. In this dissertation, I describe statistical and machine learning approaches to enable better stratification of cancer subtypes and predict therapy outcomes for individuals with cancer. First, I introduce Deep Pharmacogenomic Modules (Deep-PGMs), a framework to predict drug response outcomes for tumor samples using drug features and gene expression data. Genome expression signatures are a great aid for predicting whether a particular therapy may be beneficial for a specific cancer tumor. Traditional ma- chine learning approaches to predict the effect of a cancer drug on a tumor typically focus on the expression levels of either certain key cancer-relevant genes or of all genes. While genomic data can aid in describing the disease state of an individual by looking at isolated gene entities, genes in cells tend to act in concert to perform their functions. My approach takes advantage of the modular nature of gene regulation to build a reduced feature space that describes the cellular state of a tumor. I take advantage of unsupervised machine learning methods to build genomic and non-genomic feature spaces. I construct a deep neural network pipeline to predict drug efficacy outcomes on tumor cell line samples. I demonstrate that my framework outperforms traditional machine learning approaches that do not take advantage of the modular structure of gene expression data sets. I further apply my method to clinical trial data and demonstrate its performance. I find that featurizing genomic data through prior kno

关键词： Mathematics   Medical imaging   Artificial intelligence   Computer science  

摘要： Magnetic susceptibility reflects the concentration of bio-metal elements such as iron, calcium or gadolinium, providing means to investigate diseases such as multiple sclerosis, Alzheimer’s disease, hemorrhage and calcification. Numerous approaches have been proposed to provide magnetic susceptibility estimation from magnetic resonance imaging (MRI). While those methods are designed for specific body parts or pathologies, a unified framework is elusive from literature for reliable susceptibility estimation in both normal and pathological scenarios. This thesis developed algorithms that improve the accuracy, robustness and applicability of quantitative susceptibility mapping (QSM) for both healthy and pathological subjects. First, a dedicated regularized model was proposed to enable automated zero reference for QSM using cerebrospinal fluid. Second, convolutional neural network was combined with numerical optimization for superior anatomical contrast in QSM reconstruction. Finally, a total field inversion approach was presented to enable QSM for both healthy subject and hemorrhage patient. With the technical advances in this thesis, QSM requires less manual effort in susceptibility quantification, admits detailed recovery of anatomical structures and applies to both healthy subject and patient via a unified framework.

关键词： 机器学习   流感预测   时变惯性权重策略   空气质量等级分类预测   波达方向估计  

摘要： 随着计算机与互联网技术的不断发展,海量数据信息存在于日常生活中的各个领域,人们可以从海量数据中获取丰富的有价值信息。伴随着大数据时代的到来,各个领域都迎来了新的挑战,如何提高对海量数据的分析与应用效率,已经成为人们关注的热点问题。机器学习作为人工智能的重要分支,在大数据的研究与处理方面处于最前沿的研究方法。绝大多数的机器学习算法本质都是建立优化模型,使用优化算法对目标函数进行优化,通过训练得到最优模型。因此,优化算法在机器学习算法的研究与实现中占有主导地位。本文主要对BP神经网络、支持向量机(Support Vector Machine,SVM)以及几种智能优化算法进行研究,并将这些算法应用到不同研究背景下分析其可行性和实用性。论文主要研究内容如下:(1)为了更好的平衡粒子的全局搜索能力和局部开发能力,解决GSA中存在的过早收敛、局部优化能力差等问题。将PSO算法中的群体信息交流功能与GSA算法中的局部搜索功能相结合,提出了基于时变惯性权重策略的PSO-GSA算法(TVIW-PSOGSA)。选取23个基准测试函数评估TVIW-PSO-GSA算法的寻优性能。实验结果表明,与PSO-GSA、GSA、GA和PSO算法的收敛精度相比,TVIW-PSO-GSA算法的收敛精度最高,稳定性最好,且收敛速度和性能均优于其他算法。(2)针对SVM方法的参数选择问题,使用TVIW-PSO-GSA算法优化SVM的惩罚参数C和核函数参数?,提出了改进的SVM方法(TVIW-PSO-GSA-SVM)。为验证所改进方法在实际问题中的可行性和有效性,将其应用到空气质量等级分类预测与UCI数据集分类问题中,并与其他算法的预测结果进行比较。实验结果表明,与PSO-GSA-SVM、GSA-SVM、GA-SVM和PSO-SVM方法相比,TVIW-PSO-GSA-SVM方法准确率更高。(3)考虑传统流感监测体系发布数据的滞后性,首先基于谷歌流感趋势数据(Google Flu Trends,GFT)建立了流感预测模型,并将基于遗传算法(Genetic Algorithm,GA)优化BP神经网络的模型应用到流感预测中,建立了基于GA-BP的非线性流感预测模型;其次,通过对美国十个区域的流感样病例(Influenza-Like Illness,ILI)数据进行分析,发现十个区域每年的流感样爆发人数均具有明显的季节性,从而将美国十个区域的流感发病分为流行期和非流行期,并在此基础上建立了分季流感预测模型;最后,通过对比各模型之间以及GA-BP与传统最小二乘法(Ordinary Least Squares,OLS)对美国十个区域流感预测的预测结果,可以发现:基于GA-BP非线性模型的预测结果在大部分区域均优于线性模型;区域间的交互作用对流感传播有一定的影响;分季流感预测模型相比于原始未分季流感预测模型,其预测精度更高,效果更好,更能反映流感传播的真实水平。(4)通过分析影响流感传播的因素,建立了基于推特(Twitter)数据和疾病预防控制中心(Center for Disease Control and Prevention,CDC)数据的流感预测模型(模型1-3),并提出了一种改进的PSO算法来优化支持向量回归机(Support Vector Regression,SVR)的参数(IPSO-SVR),并将其应用到流感预测模型中对区域ILI百分比(%ILI)进行预测。对比各模型间的预测结果,可以发现:Twitter数据与历史流感数据中包含的信息互补,即Twitter数据保障了流感实时预测的准确性,历史数据能够较好地预测未来的流感趋势变化;与基于改进人工树算法的BP神经网络(IAT-BPNN)流感预测模型相比,模型3中IPSO-SVR方法的预测结果更优;模型3中IPSO-SVR方法不仅适用于HHS定义的10个区域的流感预测,同时也为优化SVR的参数提供了一种新的方法。(5)在MEMS矢量水听器阵列信号处理的研究中,波达方向(Direction of Arrival,DOA)估计问题占据着重要的地位。本文针对该问题提出了基于TVIW-PSO-GSA-BP和TVIW-PSO-GSA-MUSIC的DOA估计方法,并将其应用于矢量水听器的波达方向估计中。通过仿真实验和汾河二库湖试实验,将提出的两种方法估计结果与其他方法估计结果进行比较,可以发现,TVIW-PSO-GSA-BP方法的DOA估计结果均优于BP、PSO-BP和GSA-BP方法;TVIW-PSO-GSA-MUSIC方法的DOA估计结果相比于MUSIC、PSOMUSIC和GSA-MUSIC方法效果更好,准确率更高。从而验证了本文提出两种DOA估计方法在MEMS矢量水听器波达方向估计问题中的有效性。

摘要： Using a machine learning approach, this study examined how union context — including union status at the time of interview, at the time of sterilization, and post-sterilization affects sterilization regret among American women. Using data from the National Study of Family Growth (NSFG) 1995-2015, we utilized feature importance from the random forest model to identify the most important features in predicting women’s regret. Seven machine learning models were employed using the selected features. Logistic regression, random forest and kernel regularized least squares (KRLS) models out-perform others according to both accuracy and AUC. Examining the effect of union context using the three top-performing models, we found that women who formed new union relationships were at higher risk of regretting their sterilization decisions. Moreover, the e?ects of union status at the time of interview and of sterilization vanish when post-sterilization union formation was considered.

关键词： 量化投资   深度学习   损失函数   投资组合  

摘要： 量化投资是以数理方法对金融市场进行分析与建模的一类投资策略。机器学习则要求计算机程序通过在数据集上的学习提升其在处理特定任务时的性能。二者都需要从数据中提取信息,故随着近年来机器学习的成功,业界与学术界都对量化投资与机器学习方法的结合产生了浓厚的研究兴趣。本文首先结合相关技术背景对机器学习方法应用在量化投资领域中的优劣势进行了综合分析,并在分析的基础上使用深度学习方法构造收益率预测型网络。本文使用了分路与合并结构、以长短期记忆网络(LSTM)网络为核心构建深度模型,采用了多种损失函数进行训练并实现了模型的自动滚动更新。本文使用我国A股市场2010年至2018年的历史数据用于模型构建与回测分析,其中回测期为2014年4月至2018年11月,模型的输入因子为基于价格与交易量的Alpha191因子。本文的模型在回测期内获得了265.7%的累计收益与32%的年化收益,大幅领先于同期基准指数沪深300的43%的累计收益与8.1%的年化收益。本文完成了基于深度学习的、较为完整的“数据处理-模型构建-预测值生成-交易策略-回测分析”研究框架,并讨论了分路与合并结构下的模型结构设置、基于输出值与监督值相关性的模型选择准则、独立于回测与交易策略的模型评估的方法等一系列重要问题。本文着重地在损失函数的应用上进行了创新性的探索,提出了基于投资组合观点的多个损失函数,其中负余弦损失函数在稳定性与收益获得方面展现出了显著的优势与较强的实用性。相应的实证研究还揭示了其他损失函数的应用价值与局限。本文是当前量化投资与机器学习方法的融合研究、实用化大潮下的产物,课题本身即为业界关注热点,研究有强烈的实用导向与较强的实用参考价值。

关键词： 随机森林   前馈神经网络   VWAP   价格   日内成交量比例  

摘要： 最近几十年,计算机技术和互联网技术的快速发展,带动了电子交易执行系统快速发展,这种电子交易执行系统称为算法交易。在金融市场中,算法交易是指投资者通过计算机下达交易命令的交易方式,这种交易方式由计算机算法来确定下达的交易命令的交易时机、价格、下单的数量等。本文研究的问题就是算法交易策略中使用最广泛的VWAP算法交易策略,VWAP算法交易策略的执行效果很大程度上取决于日内成交量比例的预测。因此本文的重点就在于研究日内成交量比例的预测方法。本文提出的日内成交量比例预测模型,使用了随机森林和前馈神经网络方法,模型的输入包括过去一段时间历史交易日的成交量和相同区间的成交量、过去几个区间的区间的成交量,输出为区间的成交量比例。本文使用的数据为中国金融期货交易所的沪深300股指期货主力连续合约的5分钟K线数据,在这个数据上验证本文提出的模型,相对于传统的滚动平均方法,前馈神经网络方法的均方误差提升了9.90%,证明本文提出的日内成交量比例预测模型的有效性。接下来本文使用沪深300股指期货主力连续合约的数据验证了成交量比例和收益率的相关关系。本文分别计算了成交量比例和收益率的皮尔森相关系数和斯皮尔曼相关系数,然后通过假设检验,计算P值,证明了成交量比例和收益率不仅具有显著的线性相关关系,还具有显著的非线性相关关系。继而本文将收益率和由收益率计算的波动率加入到本文提出的日内成交量比例预测模型中,相对于滚动平均方法,随机森林方法的均方误差提升了12.90%,在同时使用前馈神经网络方法时,加入收益率、波动率的日内成交量比例预测模型和未加入收益率、波动率的模型相比,均方误差的提升(相对于滚动平均方法)从9.90%提高到13.27%,证明了本文提出的使用收益率和波动率来预测成交量比例的有效性。最后本文计算了加入收益率和波动率的日内成交量比例预测模型的VWAP和传统的滚动平均的VWAP,和市场真实的VWAP进行对比。使用平均绝对百分误差作为评价标准,相对于传统的滚动平均方法,加入收益率和波动率的日内成交量比例预测模型的VWAP跟踪效果的平均绝对百分误差提升了38.36%,证明了本文提出的模型的VWAP跟踪效果更好。通过分析VWAP跟踪误差较大的交易日的实际情况,本文发现在该交易日的中间时段开始,成交价开始大幅下降,导致成交量激增,这个时候传统的滚动平均预测的成交量比例与实际情况相差较大,加入收益率和波动率的日内成交量比例预测模型预测的成交量比例能较好的拟合实际的成交量比例,因而相应的VWAP跟踪效果更好。同时本文使用了前馈神经网络方法来预测成交量比例,为以后将更加复杂的神经网络方法应用到这方面的研究打下了基础。

关键词： 欧式期权定价   机器学习   Black-Scholes模型   马尔可夫决策过程   强化学习方法  

摘要： 由于市场固有的嘈杂和非线性特征,对市场行为准确预测成为了一项具有挑战性的任务。使用预测值,可以对资产进行定价,并且可以做出战略决策以获得短期或长期的收益。现在市场上已经有了各种统计预测器,并且可以得到不同的结果。本文首先回顾了包含Black-Scholes模型在内的几种期权定价方法,以及几类机器学习算法的基本原理;之后将常见的四种机器学习算法:支持向量机模型;聚类及支持向量机混合模型;输入预测及支持向量机混合模型;强化学习方法,应用于期权定价的数值计算中,并与Black-Scholes期权定价公式得到的理论价格进行比较。本文主要参考了Deoda,A.[11]和Martin,K.[18]的论述,并进一步深入理解,之后利用实际数据对文中提出的方法加以验证。通过不同方法的结果比较发现,采用聚类和SVR方法的混合模型优于单纯的SVM模型。与其他机器学习方法相比,使用预测输入参数的方法的性能较差。有趣的是,大多数模型的性能都随着我们从ITM期权系列转向OTM期权系列而提高。这可以归结为指数在长期价格水平上总是趋于上升的事实。不过现有的程序非常耗时,因为必须为要定价的每个期权都生成模拟。此外,交易者需要更准确的预测价格来降低期权交易中的风险。

关键词： 趋势预测   群智能优化算法   机器学习方法   改进的集成经验模态分解法  

摘要： 作为一种集成多种高精尖科技的大型复杂系统,卫星发挥的作用已经体现在各种领域中,并占有无可替代的位置。然而,卫星常年暴露在恶劣的宇宙环境中,会受到太阳活动、宇宙射线,太空垃圾等外界因素的干扰,同时其在工作过程中由于一些内部自身因素,都会导致故障的发生。卫星在长期监测管理的过程中,会产生大量遥测数据,从中可挖掘出各种有用信息,然后有效利用关键参数的潜在变化规律来进行未来趋势预测,对于卫星正常工作具有重要意义。本文将机器学习算法应用于卫星关键参数趋势预测中,主要有如下几部分:(1)针对卫星关键参数受噪声影响、数据缺失以及机器学习预测模型选择问题,分析比较了几种常用方法和3种评价指标,提出了基于BAS优化的自适应小波阈值去噪算法,实验数据表明该算法可行且有效。(2)利用浅层学习模型中的快速学习网络(FLN)、Elman神经网络以及回声状态网络(ESN)实现趋势预测。针对传统ESN当前时刻的状态值与前一时刻的状态值没有直接关系,因此通过增加调节参数β来控制前一个时刻神经元的状态,提高ESN的记忆能力。由于采用最小二乘回归法训练网络输出权值可能存在解的“奇异”问题,则采用岭回归算法(Ridge Regression,RR)取代原有的线性回归方法,从而有效调节输出权值的幅值。针对ESN网络参数的选择问题,利用樽海鞘群算法(SSA)获得ESN网络重要参数的最优值,使得预测模型更加准确。(3)针对单一模型对非线性、非平稳时间序列预测难以达到理想的预测精度,将改进的集成经验模态分解(MEEMD)和长短时记忆网络(LSTM)结合形成MEEMD-LSTM组合预测模型。该模型首先采用MEEMD将原始序列分解为若干个不同时间尺度或趋势的本征模态函数(IMF)分量,再采用LSTM预测模型对每个IMF分量进行预测,最后集合每个分量的预测结果得到有效的预测结果。(4)将提到的几种机器学习模型应用于锂离子电池容量趋势预测实例中来验证算法的有效性,实验结果表明,在浅层学习模型中ESN网络预测精度较高,使用群智能算法组合预测模型能够提高传统ESN神经网络的预测精度;深度学习模型中MEEMD-LSTM模型具有较好的预测效果。(5)采用MATLAB与C#语言联合编程开发了一套综合电子系统健康监测软件系统。

关键词： 助熔剂法   晶体生长   机器学习  

摘要： 高质量单晶的生长对凝聚态物理的研究具有重要意义。单晶是广泛的科学研究领域的重要先决条件,如凝聚态物理,表面科学,激光和非线性光学。量子霍尔效应/分数量子霍尔效应,Wyle semi-metal等基础研究都依赖于高品质单晶。对单晶的合适生长条件的探索是昂贵且耗时的,特别是对于三元化合物,因为缺乏三元相图。助熔剂生长晶体的方法是晶体生长的一种非常重要的生长方法,对晶体性质的研究有着重要的意义。理论上只要能找到某种适合的的助熔剂或助熔剂组合,就能够用助熔剂法把这种单晶生长出来,而且成功的生长条件有可重复性。利用助熔剂法生长单晶,助熔剂的选择还有生长条件的确定非常重要。本文使用实验室助熔剂生长单晶的实验数据,利用机器学习的方法寻找晶体生长的条件。具体研究如下我们从两个不同的实验室采集了助熔剂法生长单晶的历史数据,分别标记为Group I,Group II。Group I的数据比较充足,生长的样品基本涉及了元素周期表示的所有元素,我们的研究主要针对于Group I,Group II作为讨论机器学习在这个问题研究上的一致性。根据助熔剂法生长单晶的的经验,挑选了对晶体生长可能有影响的生长条件,助熔剂和溶质的物理化学性质。生长条件包括最高温,离心温度,温度差,降温速率,高温停留时间,助熔剂种类,原料单质种类,原料含量。助熔剂和溶质的物理化学性质包括熔点,蒸汽压,原子序数,相对原子质量,电负性,密度,相图。将这些属性作为机器学习训练的特征,将生长结果作为标签,利用决策树,随机森林,支持向量机(SVM),梯度提升决策树(GDBT)四种机器学习算法,寻找最优模型。SVM的效果最好其在测试集的准确81%,f1分数为81%,成功样品的查准率为67%,对比实验数据的准确率30%,通过机器学习训练的模型选择成功生长的条件较人为选择成功生长的条件成功率提高了一倍。模型的阈值可以改变其成功样品的查准率,我们可以根据实际应用的不同需求,调整模型参数,使其符合我们我们的应用需求,模型的性能随着训练数据量增大而增强。助熔剂法生长单晶的机器学习模型可以应用到实验室,帮助实验室更好地生长单晶,本文介绍了将这个模型运用到实验室的方法。方法一是模型独立生长,遍历生长某个晶体的所有可能的特征组合,然后利用训练出来的模型去对这些组合进行拟合,拟合可以得到这些条件生长成功的概率,可以选定一个阈值,把概率在阈值以上的条件按照概率高低优先生长。方法二是模型协助人为经验生长,实验者按照自己的经验挑选条件,模型再判断条件的可生长性。决策树模型具有很好的解析性。通过决策树模型我们发现助熔剂的电负性是描述其作用的一个很重要的物理属性,对生长晶体的其他条件的选择有关键意义。我们从决策树中总结出了一些规则,它们分为两种类型。其中一些人已经很清楚理解了一个明确的理论,但由于有很多因素需要结合,很容易被忽略但是被机器学习(ML)重新发现。而另一个没有明确的理论。前者包括:(a)当冷却速度较低时,需要考虑的因素较少。否则,还有更多因素需要考虑。更好的单晶生长与(a)较低的冷却速率和(b)较低的熔点B较低的熔点更有可能成功相关。ML还发现了一些没有明确解释理论的规则:(a)单晶Ax By Cz的生长,x/z和y/z值都比较大的单晶体生长比较困难。(b)当助熔剂和单晶组分之间的平均液相密度差异很大时,很容易失败。(c)建议选择与单晶组分的平均电负性差别不大的助熔剂。此外,建议选择与A,B和C绝对电负性差最大值较小的助熔剂。

关键词： 交互艺术创作   机器学习   迁移学习   Max/MSP   前端技术框架  

摘要： 本文提出了一个基于机器学习方法的交互创作辅助系统:MMC(Machine Learning Mapping Creator),是基于Max/MSP平台与前端技术框架开发的通用型交互艺术辅助创作工具。MMC系统利用机器学习方法实现图像特征分类识别功能,通过Max/MSP实现实时控制事件触发,可用于舞台实时表演、新型乐器、装置艺术、人机交互应用等诸多场景,为艺术创作者提供了利用机器学习方法进行创新型艺术创作的创新途径。通常,为舞台表演、装置艺术等新型交互艺术形式进行创作的时候,创作者会结合诸多新型的技术,如利用各式的传感器等外部硬件设备获取实时数据流,或者利用复杂的模型方法生成音乐材料等等。这些技术为艺术创作贡献了崭新的灵感和丰富的手段的同时,也会加大相关创作的复杂度与难度。如何在交互式艺术作品创作的过程中,更好地结合新兴技术如人工智能机器学习方法,把这些方法封装成简单易用的模块供创作者使用,降低技术对艺术家尤其是个人创作者、学生等群体带来的门槛,是本文研究的目的与内容之一。利用MMC系统,用户通过启动特征分类识别应用程序,设置不同的标签,利用摄像头对每个标签进行图像数据采集,如姿势或者物件信息,然后利用采集到的这些数据,基于迁移学习的方法,“重新训练”预训练模型,在较短的时间内训练好新的分类器。用户通过在摄像头前复现姿态等信息时,模型就可以识别当前的姿态动作对应是哪一个标签。标签数据在Max/MSP被处理成开关触发物件,利用这些开关触发,用户可加载自己的Max程序以及一些外部硬件设备等,实现联动的触发控制。本文主要就机器学习方法在交互艺术创作中的应用,交互创作系统的常见特点与相关系统的案例分析研究展开。随后就提出的MMC系统的框架、实现方法、功能等特点进行研究与阐述,并进行相关定性实验分析,对MMC系统的操作使用总结出较为可行的方案。最后就MMC系统各模块的可拓展方向进行探讨。