关键词： 多样本多维数据   智能分类预测   多维云   Xgboost算法   BP神经网络   主成分分析  

摘要： 多样本多维数据是指由大量的具有多维属性的样本组成的数据集。此类数据普遍存在于材料、医疗、航空航天、电力电子等领域,通过挖掘和分析这些数据,构建预测模型,可推演出上述领域中某个指定目标变量的可能性结果。然而,尽管近年来大数据分析与预测理论获得了较大发展,但因上述多样本多维数据具有模糊性、不确定性、耦合性和多维属性特性,直接采用现有的机器学习算法和统计分析方法,较难获得高预测精度。本课题的研究目的是提出多样本多维数据分析与智能预测理论与方法,并应用它解决牙周炎疗效的分类预测问题,也为其他领域的多样本多维数据挖掘与预测提供可借鉴的方法。本文的主要创新性工作包括:(1)在分析一维云的基础上,为了适应数据多维度的特性,分别提出了二维云模型和多维云模型构建方法,给出了二维和多维前件云产生云滴的算法过程和二维与多维单规则发生器的算法步骤,解决了多样本多维数据的模糊性和不确定性引发的预测精度低的问题。(2)在详细分析Xgboost、PCA和BP神经网络的优缺点的基础上,提出了Xgboost-PCA-BPNN组合预测算法,降低了多样本多维数据的耦合性和多维性对预测性能的影响,提升了预测准确度。(3)在分析北京某口腔医院牙周炎治疗过程4.5万例位点数据的基础上,分别将所提出的多维云模型和Xgboost-PCA-BPNN组合预测算法应用于牙周炎治疗效果预测,获得了较好的预测效果。测试结果表明,Xgboost-PCA-BPNN组合预测算法精度达82%,优于多维云模型和其他机器学习方法,如逻辑回归、Xgboost和Xgboost-逻辑回归组合算法。

关键词： Transportation   Computer science  

摘要： Universal Global Adaptive routing (UGAL) is a common routing scheme used in systems based on the Dragonfly interconnect topology. UGAL uses information about local link-loads to make adaptive routing decisions. Traffic Pattern-based Adaptive Routing (TPR) enhances UGAL by incorporating additional network statistics into the routing process. Contemporary switches are designed to accommodate an expansive set of network performance metrics. Distinguishing between significant, predictive metrics and insignificant metrics is critical to the process of designing an adaptive routing algorithm. We propose the use of recurrent neural networks to assess the relative predictive power of various network statistics. Using this method we rank the predictive power of network statistics using data collected from a network simulator. Both UGAL and TPR require tuning of hyper-parameters to achieve optimal performance, with TPR having more than 20 parameters for the Cray Cascade architecture. We demonstrate that the optimal value of these parameters can vary significantly based on the size of the architecture, the arrangement of global links chosen for the Dragonfly topology, and the traffic that the system will likely encounter. We propose and evaluate using a neural network to simplify the tuning of hyper-parameters used in TPR. We find that this approach is able to match or exceed the performance of TPR across several synthetic traffic patterns using a network simulator.

关键词： Environmental economics   Agriculture economics   Computer science  

摘要： A pressing challenge of modern agriculture is to develop means of decreasing the negative impacts of pesticides while maintaining low pest pressure and high crop yield. Certain crop varieties, especially wild relatives of domesticated crops, provide pest regulation ecosystem services through chemical defense mechanisms. Benefits from these ecosystem service can be realized by intercropping cash crops with repellent wild varieties to reduce pest pressure. An opportunity cost exists, however, which consists of lower yield and market value. Such is the case of heirloom apple varieties that are more resistant to the codling moth but have a lower market value compared to commercial apples such as Red Delicious and Gala. In this thesis, I first develop a model to identify the bioeconomically optimal intercropping level of commercial and wild varieties with the purpose of pest management in the specific case of the codling moth. Second, I develop a model that uses a machine learning technique to determine pesticide application policies for the multi-variety orchard, where the solution is robust to model and data uncertainty. Model 1 is a tree-level, spatially-explicit, bioeconomic simulation model. In the baseline case, we find that the bioeconomically optimal variety mix consists of 20% cider variety and 80% commercial variety. We analyze the sensitivity of the optimal mix to the market price difference of the two apple varieties and find that the optimal proportion of cider decreases linearly and that 100% commercial variety is optimal if the price difference is greater than $0.3/lb. We consider eight different spatial configurations for the intercropping, in addition to the baseline random spatial intercropping and find that the diagonal configuration yields the highest net present value and requires the lowest amount of cider intercropping (4%). Random spatial intercropping, in contrast, ranks seventh and has the second-highest optimal proportion of cider (30%). We use

关键词： 机器学习   高光谱遥感   光谱特征   分类精度  

摘要： 当今世界，机器学习相关技术的应用领域正在迅速扩大，数据处理与信息分析的技术也发生了翻天覆地的变化，影像数据的分类效果也因此能够得到显著的提高。　　以往的高光谱或多光谱图像分类与识别，往往只关注像元光谱维上的特性，其特征统计也只在光谱上进行展开。由于自然界的复杂性、混合像元问题的存在，仅靠像元的光谱特性是不够的。　　在高光谱遥感图像监督分类过程中加入空间特征信息，可有效提高分类结果的速度与精度。本研究将两种空间信息的提取方法与极限学习机(ELM)和支持向量机(SVM)结合，对两种机器学习分类方法加入空间特征信息前后的分类结果进行时间与精度的综合评价与比较分析。　　本文选取了经典的ROSIS传感器的意大利帕维亚大学以及Hyperion传感器的博茨瓦纳奥卡瓦纳三角洲的高光谱遥感数据作为试验数据;同时，为了试验机器学习方法在地质找矿当中的应用前景，还选取了美国内华达赤铜矿AVIRIS高光谱遥感数据进行试验。　　经影像预处理、训练样本选取、光谱特征分析，分别运用两种分类方法对数据集进行分类实验;之后将光谱特征与空间特征结合对数据进行分类试验。　　本文主要的研究内容和结论有以下这些方面：　　(1)利用支持向量机(SVM)与极限学习机(ELM)两个分类方法，对采集于两种不同传感器、具有不同地表覆盖类型的高光谱数据集进行实验，对数据进行光谱特征分析，并与分类结果进行对比，证实了不同类别之间的光谱曲线特征相似度较高，将会增大数据集的分类难度，并对类别的分类精度结果产生不良影响。　　(2)基于梯度图像的直接分水岭算法容易导致图像的过分割，产生这一现象的原因主要是由于输入的图像存在过多的极小区域而产生许多小的集水盆地，从而导致分割后的图像无法把图像里有意义的区域体现出来。所以应当把分割结果的相似区域实施合并。　　(3)运用多数投票法将光谱和空间分类结果进行合并，其结果中很多离散点被指定为邻域值，提高了分类精度。另一个效果是类别间的边界平滑了，解决了分类精度差异常出现在这些边界点上的问题。　　(4)运用混淆矩阵方法对实验结果进行对比分析，可以看出，将基于光谱特征的分类结果与空间特征相结合，可以有效提高两种算法的分类精度。同时在分类时间、精度方面，对于两个研究区，极限学习机(ELM)均优于支持向量机(SVM)。

关键词： Thermodynamics   Chemical engineering   Mechanical engineering  

摘要： Turbulent combustion involves complex interactions between turbulence and chemistry. These interactions result in several turbulent combustion phenomena occurring in different combustion applications. Due to the massive complexity involved, turbulent combustion requires modeling for accurate prediction and representation of these phenomena; and the models developed in this respect are conventionally known as turbulent combustion closure models. The objective of this work is to explore data-based and machine-learning techniques to enable the construction of new closure models and improve the existing ones. In the first part of this work, a novel experimental data-based framework is developed to capture turbulent-chemistry interactions accurately and accelerate chemistry. Experimental multiscalar measurements in laboratory flames have provided important databases for the validation of turbulent combustion closure models. The framework developed in this work is based on the construction of conditional means and joint scalar probability density functions (PDFs) from instantaneous experimental measurements based on the parameterization of the composition space using principal component analysis (PCA). PCA identifies key parameters, principal components (PCs), which act as both conditioning variables and transport variables. The joint PDFs are constructed using a multi-dimensional kernel density estimation (KDE) approach. The PC source terms are estimated starting from instantaneous temperature and measured species measurements using a variant of the pairwise mixing stirred reactor (PMSR) approach. Self-Organizing Maps (SOMs) are used to cluster the measurements based on their proximity in PC-space. Finally, the joint PDFs in the PC space are convolved with conditional mean statistics of thermo-chemical scalars, density and PC source terms to determine their unconditional means. These means are represented in terms of mean PCs using artificial neural networks (ANN). The c

关键词： 出租车出行需求   预测   传统机器学习   深度学习  

摘要： 近年来,随着大数据技术和人工智能的不断进步和快速发展,以及“智慧城市”等相关概念的提出,城市的智能交通系统也在经历着深刻的变革。未来的城市交通必将是融合了人工智能、互联网+等先进技术的“智慧交通”。出租车作为城市公共交通运输系统的重要组成部分,能够提供便捷、舒适的个性化服务,现已成为居民日常生活中一种必不可少的出行方式。而针对目前出租车服务和出行乘客需求之间存在较大供需矛盾的情形,通过相关方法对未来一段时间内的出行乘客需求进行有效预测,具有重要的实际意义。本文首先对纽约市的出租车乘客乘车数据进行一定程度的预处理,并在此基础之上统计分析了出租车出行乘客需求的时空分布特性,以及天气状况等外部因素对其的影响。其次,对于单个目标区域未来一段时间内的出租车乘客需求预测,本文在综合考虑后选择了传统机器学习相关预测方法,并在特征变量分析基础上,分别使用多重线性回归、支持向量回归、随机森林以及Xgboost算法对肯尼迪机场的乘客人数进行预测,并分析了不同算法模型的预测性能。最后,本文使用深度学习方法对多目标区域的出行乘客需求进行预测,针对传统的LSTM网络以及ConvLSTM网络在处理时空特性问题时的缺陷,本文针对性地提出了CNN-Resnet-LSTM预测模型,并通过实验证明在相关条件下其预测准确性相较于上述方法,有一定程度的提高,同时也对相关影响因素以及退化模型进行了分析。

关键词： 汽车装配车间   生产质量   机器学习   过程采集   粗糙集理论  

摘要： 随着执行制造系统在汽车装配车间生产质量管理中的广泛运用，工业生产数据的收录变得简单可行，生产记录数据也变得即时丰富。汽车装配数据主要呈现体积庞大、来源多样、采样时间连续、价值密度低、动态性随机性强等特点。在机器学习方法出现之前，除去本身分布特征较好的数据外，其他价值密度较低、分布较为杂乱的时间记录数据和结构化程度较低的类别型数据很难通过单一的仿真建模方法来分析其中的有效信息，提升生产效率。　　目前利用机器学习方法，对工业生产过程产生的大量实时记录数据进行质量预测分析逐渐成为优化生产研究的主要方向。通过数据驱动，对汽车装配生产过程中的正常样本和缺陷样本进行学习从而生成质量预测模型，是现阶段汽车装配质量预测分析领域的热点研究内容之一。本文结合机器学习算法，对汽车装配过程质量数据进行预测分析，主要体现在以下三个方面　　1)通过对MES采集的汽车装配数据的统计分析，指出了现有的MES系统数据采集和存储方面存在的弊端，对其并未考虑与其他系统的对接以及后续数据的集成、分析的不足之处提出了有效地建议;通过对数据的清洗和集成等方面的处理，完成了对镇江北汽和昌河铃木的汽车装配数据预处理的主要任务，提高了机器学习算法对装配质量数据分析处理效率及准确性;2)利用装配过程采集到的时间过点数据为基础，提出了一种基于数据和空间经验分布的r-z变换和分布概率密度的双向加权的SRZD-WSVM算法来实现装配过程质量数据的预测。并结合实际生产情况，通过对生产中可能产生缺陷样本的原因进行分析，得到实际装配过程对质量因素有影响的指导意见。　　3)利用装配过程记录的车辆选装件的具体数据信息，提出了一种利用基于粗糙集理论的进行填补的方法，并建立随机抽样的级联森林模型算法。进一步结合具体车型车系等特征信息分析装配生产选装件的质量预测以及质量相关因素，提出实际生产指导意见。　　本文根据汽车装配过程中人机料法环五大因素，从数据驱动的角度出发，对原先摒弃的时间过点数据和装配类型数据进行信息提取，利用改进后的机器学习方法对车间装配生产进行即时检测，对车辆生产的相关安排提出指导性建议，从而改善车间生产优化及装配质量。

关键词： 利率期限结构   改进遗传算法   改进自适应卡尔曼滤波   FAVAR  

摘要： 伴随着近些年来我国经济的迅猛发展,中国经济急需一个健全和稳定的金融市场作为其支撑,利率市场化是中国金融改革的重要组成部分,随着1996年利率市场化改革的开始,我国利率市场化已经取得了令人瞩目的成绩,目前正处于全面冲刺阶段。在一个由市场自主决定利率的经济环境下,央行往往利用泰勒规则来保持短期利率的稳定,进而影响长期利率,最终达到调节社会产出和通胀的目的。美国金融危机爆发后,利率期限结构对于宏观经济的影响效果进一步增强,比如2008年金融危机爆发后,美国政府为摆脱经济危机,美联储将联邦基准利率调到历史最低水平,通过“定量宽松”等手段来改变利率期限结构,进而实现其经济目标。由此可以看出,研究利率期限结构及其相关问题对分析和判断宏观经济态势及预期有着重要的学术价值和实践意义。针对利率期限结构模型的构建大致可分为静态模型和动态模型,但随着金融市场的复杂化,不管是静态模型的估计方法还是动态模型的估计方法在参数估计的精确度和算法的稳定性上都不能满足现代金融市场的需求。通过传统方法拟合出现的收益率偏差,在微观层面上使我们很难精准把握期限结构的真实变动特征,在宏观层面上也很难为政府实施精准货币政策而提供相应的实证支持。因此本文从利率期限结构的估计方法入手,对静态模型和动态模型的估计方法进行改进,提高描述利率期限结构的精确度以及估计算法的稳定性,同时在优化利率期限结构精确度的基础上,紧密结合宏观经济信息,分析利率期限结构与宏观经济因子的动态特征,进而有助于我们分析和判断宏观经济态势和预期。本文共分七章,主要做了以下五个方面的工作:第一,阐述利率期限结构的相关理论基础,并对国内外相关文献进行综述。首先较为系统的介绍利率期限结构的基础理论,理顺了其发展脉络,其次针对静态利率期限结构、动态利率期限结构以及宏观金融模型的利率期限结构的相关文献进行阐述,总结其优缺点,并指出本文相对于前人研究的创新之处。第二,关于我国国债利率期限结构的静态模型估计方法的研究。首先对国债利率期限结构静态模型进行介绍,重点介绍静态模型中常用的三次样条函数、Nelson-Siegel及其扩展形式模型,并指出基于三次样条函数的利率期限结构模型、NS模型和Svensson模型的估计方法都存在参数估计精度不高,整体拟合效果有待优化的问题。针对其问题,本文提出一种改进遗传算法,并将其应用在三次样条函数分界点的选取以及估计NS及其扩展模型的参数上。通过本文所提的改进遗传算法,可以解决传统遗传算法易陷入局部最优解的问题,从而提高整体算法的求解性能。同时利用我国国债数据进行实证分析和研究,研究结果表明利用改进遗传算法得到的静态模型不管是在样本内数据和还是样本外数据,其拟合能力都有较大的提升,同时在多项式样条函数模型中对改进算法中的相关参数进行讨论,得出相关参数的最优取值范围。第三,关于无套利Nelson-Siegel模型估计方法的研究。目前针对无套利NS模型中参数的估计,往往使用卡尔曼滤波进行估计,但在卡尔曼滤波算法中,比较依赖参数初始值的设置,同时随着参数估计数目的逐渐增多,会导致误差的均值和均方误差在迭代过程中会逐渐放大,使滤波估计的精准度下降。为此,本文提出一种改进自适应卡尔曼滤波方法,通过实证对比分析发现,基于改进自适应卡尔曼滤波估计的即期利率比基于传统卡尔曼滤波估计的即期利率更加接近于真实值,同时也能更好的描述我国国债期限结构的变动特征。最后利用改进自适应卡尔曼滤波提取模型中三个状态因子,实证发现,提取出的水平、斜率和曲率三因子与实证代理变量高度重合,并通过潜在因子与自身滞后项的相关性分析,得出水平因子代表长期利率,受到外界冲击时,受影响的持续时间较长;曲率因子的持久性高于斜率因子,但低于水平因子,代表了中期利率;而斜率因子持久性最短,波动性最大。第四,关于我国国债利率期限结构与宏观经济变量相关性的研究。本文在高斯仿射模型的基础上加入宏观经济变量,构建关于我国国债利率期限结构的宏观金融仿射模型,并借助本文所提出的改进自适应卡尔曼滤波方法对宏观金融仿射模型中的参数进行估计。重点研究经济状况、财政政策、货币政策等宏观因子和利率期限结构之间的相关性,构建基于潜在因子和宏观经济因子的无套利仿射模型,并利用我国国债利率数据及宏观经济数据进行实证研究。通过实证研究发现,财政因子和货币因子对我国国债利率期限结构有较为明显的正向冲击作用;经济状态因子对我国短期国债有较为明显的正向作用,但对长期国债的影响作用较小;通胀因子对短期期限的即期利率有正向作用,但随着期限的增加,效果逐渐减弱,甚至出现微弱的负向作用,该结论与实际经济状况一致。这是由于从2014年,中国经济增长开始放缓,而经济增长的放缓抵消了通货膨胀的增长对利率的正向冲击作用;同时潜在因子系数大于宏观经济因子系数,表明利率自身的滞后项对利率期限

关键词： 珠三角地区   商场   参数化   机器学习   空调全年负荷  

摘要： 合理的建筑设计方案对降低建筑能耗至关重要,但目前在商场建筑方案设计时,一般较少也很难考虑不同方案的建筑能耗比对,造成商场建筑设计方案在节能方面存在先天不足,很难通过围护结构的选型达到降低其能耗的目的。为辅助建筑设计方案决策,快速准确预测商场建筑设计方案的空调全年负荷十分必要。本研究以珠三角地区商场为研究对象,开展实地调研,建立内热源作息模型,实现商场建筑空调负荷计算模型的模块化和参数化,比选各种机器学习方法预测结果的精确性和适用性,建立商场空调全年负荷快速预测模型,开发珠三角地区商场建筑负荷预测分析软件。首先,采用设计资料收集、实地调研、室内温湿度测试以及问卷调研的方法对包括建筑特征因素、业态分布、围护结构热工参数、室内空气参数、内热源参数等在内的珠三角地区商场建筑空调负荷影响因素现状特点进行研究,确定珠三角地区商场空调负荷各影响因素的变化范围。针对商场各层业态特点,提出九种典型业态组合模式,引入模块化设计概念将九种典型业态组合模式作为基本模块,通过调用相应模块并叠加实现对任一商场建筑模型的准确描述。其次,基于商场内热源的数据统计,建立典型业态的人员、照明和电器设备的作息模型,并通过两家商场的实际运行数据验证其准确性。典型商场业态的内热源作息模型的建立,提高了空调全年负荷模拟的精度,实现了商场建筑能耗精细化模拟。第三,提出并验证商场空调负荷计算模型参数化方法。采用拉丁超立方抽样方法生成空调负荷影响因素不同取值的八万组随机组合,利用R语言和EnergyPlus实现八万组计算模型的生成和模拟计算,最后以楼层为单位收集模拟计算结果,形成九种业态组合模式对应的商场模块空调全年负荷样本库,以供后续的机器学习方法进行训练和测试。最后,对比11种不同机器学习方法模型的准确性得出模型质量最高的机器学习方法为梯度提升方法,建立基于梯度提升方法的珠三角地区商场空调全年负荷预测模型,并开发珠三角地区商场建筑负荷预测分析软件。引入敏感性分析确定各影响因素对商场空调全年负荷的影响规律,分析不同输入变量简化方案的预测模型的精度,提出输入变量简化原则。最后,针对后续真实商场样本出现的缺失值导致无法作为完整样本来进一步优化预测模型的问题,确定最佳缺失值填补算法为EM算法和多重填补法,以便于应用实际运行数据对预测模型的修正。

关键词： 移动流量识别   特征提取算法   机器学习方法   识别评估指标  

摘要： 近年来,随着移动端用户的飞速增长,移动端流量在网络流量中的占比越来越大。因此对于移动网络流量的管理变得尤为重要,但是移动网络流量的特征与PC端流量有着一定的差异,传统的PC端流量识别方法并不能完全适用于移动端的网络流量识别,这给管理者造成了不小的麻烦,因此移动端的流量识别对网络安全管理来说有着重大的现实意义。本文研究分析了移动端流量的发展现状,概述了国内外针对移动端流量识别的实现原理与方法。经过考察调研发现,目前移动网络中的流量90%以上在应用层采用的是HTTP协议和HTTPS协议进行传输,故本文重点针对移动端应用层的HTTP和HTTPS流量进行识别。首先设计了一套基于Wireshark的移动流量采集打标系统。其次分别针对HTTP和HTTPS协议流量特征进行提取和优化:对于HTTP协议流量,提取HOST、URL作为初步的特征字段;对于HTTPS加密协议流量,提取SNI域中的HOST信息作为特征,在此基础上提出了一种基于增益因子加权的特征提取优化算法,实现对初步提取特征的优化。最后将优化后的特征放入XGBoost模型当中去训练。在算法设计上,本文通过引入增益加权的特征优化算法,综合了特征在样本中出现的频率和流量报文数据的现实意义对特征进行增益加权提取,从而进一步提高了特征的有效率,并且在一定程度上起到了降维的效果,减少了训练样本出现空值的情况。在系统设计上,本文将深度包检测的方法与基于统计特征的机器学习识别方法进行结合,有效的弥补了网络大量背景流量给识别系统带来的精确率损失。本文在真实的移动流量数据上进行测试,通过真实的应用流量测试集去验证识别模型的正确性,并通过与传统特征提取算法在相同模型下的训练效率、准确率、查准率等方面进行对比,对比结果验证了基于增益因子加权的特征优化算法可以提高机器学习模型的训练效率和模型识别的精确率与召回率。