关键词： 极限学习机   多变量时间序列   预测  

摘要： 时间序列不仅可以反映天文、金融、生物医学、控制学、海洋科学等领域的发展变化过程,还可以探索其发展变化规律来预测某些现象。随着时间序列分析的深入,国内外已提出一系列线性和非线性预测方法,并取得了良好的应用效果,但其中绝大多数方法都是针对单变量时间序列预测提出的。然而现实生活中所采集的时间序列数据往往不是由单一因素所决定,需要综合考虑多种因素。因此,对多变量时间序列预测进行研究更具有现实意义。由于多变量时间序列数据具有不同于单变量时间序列自身的特性:多噪声、多尺度、变量相关等,现有的单变量时间序列预测方法无法直接预测多变量时间序列,因此研究多变量时间序列预测具有重要的理论价值。本文以极限学习机(ELM)为工具,针对多变量时间序列预测展开研究,提出三种多变量时间序列极限学习机预测模型,主要完成了如下工作:1、极限学习机在参数学习过程中仅考虑已知样本信息,而在实际应用中样本个数往往有限,因此ELM仅考虑有限已知样本信息无法满足预测准确性的需求。针对这一问题,在极限学习机的特征空间中综合考虑特征样本的已知信息和潜在信息,提出潜在极限学习机(LELM)预测模型。在多变量时间序列上的实验结果表明,LELM能够有效提高极限学习机的预测能力。2、在极限学习机预测多变量时间序列时,需将矩阵样本转换成向量作为模型的输入,这极大地影响模型预测精度。针对这一问题,结合奇异值分解思想,在极限学习机隐藏层和输出层之间增加SVD降维层,提出一种基于矩阵形式输入的多变量时间序列极限学习机预测模型(SVDELM)。在混沌时间序列和股票时间序列上的实验结果表明,SVDELM是一种有效的多变量时间序列预测模型。3、SVDELM和一.维极限学习机(2D-ELM)均是基于矩阵形式输入的预测模型,然而SVDELM对特征空间样本降维,2D-ELM在投影过程中对输入样本降维,都将造成原始数据信息的丢失。针对上述问题,提出一种无需对输入样本降维的预测模型,即改进的二维极限学习机(I2D-ELM)。实验结果表明I2D-ELM能够大大提高多变量时间序列预测模型的精度。

关键词： 核极限学习机   经验模态分解   优化算法   风电功率预测   组合预测  

摘要： 由于风能的随机性和间歇性,风电场的发电输出功率往往具有很强的波动性,这将对电网造成极大的冲击,给电网计划和调度带来困难与挑战。因而,精确可靠的风电功率预测对优化电网运行的成本和提高电力系统的可靠性极其重要。目前,借助现代统计方法的预测模型,如神经网络、支持向量机等已被广泛应用到超短期及短期风电功率预测中。极限学习机(Extreme Learning Machine,ELM)作为一种新型的单隐层前馈神经网络(Single hidden Layer Feedforward Neural Networks,SLFNs),它能以极快的学习速度获得良好的推广性能,并在风电功率超短期及短期预测中已有成功的应用。在ELM的基础上,核极限学习机(Kernel Extreme Learning Machine,KELM)以核函数表示未知的隐含层非线性特征映射,通过正则化最小二乘算法计算网络的输出权值,并且该方法无需主观的设定网络隐含层节点的数目。为进一步提高风电功率超短期与短期预测的精度,本文以KELM方法为主线,研究其在风电功率组合预测及单一预测方面的应用。本文的主要研究内容如下:(1)在ELM理论的基础上,对KELM的基本学习算法及其高斯核函数和小波核函数进行了深入研究,并考虑将正则化最小二乘算法应用于其网络的输出权值求解中,以便提高KELM的泛化能力。(2)从组合预测模型的角度出发,首先,对原始的风电功率时间序列进行了分析。其次,在经验模态分解(Empirical Mode Decomposition,EMD)的基础上,研究了具有自适应白噪声的完整集成经验模态(Complete Ensemble Empirical Mode Decomposition with Adaptive Noise,CEEMDAN)信号分解方法,结合模糊熵(Fuzzy Entropy,FE),给出了一种基于CEEMDAN-FE和KELM的组合预测方法。将其应用于某地区的风电功率短期预测实例中,并与EMD-KELM、EEMD-KELM等组合预测方法,及单一的KELM方法进行比较。实验结果表明,CEEMDAN-FE-KELM的组合预测方法预测精度最好。(3)在KELM的基础上,结合优化算法,给出了一种基于优化的核极限学习机(Optimization Kernel Extreme Learning Machine,O-KLEM)的预测方法。分别利用遗传算法(Gentenic Algorithms,GA)、模拟退火(Simulated Annealing,SA)、微分演化(Differential Evolution,DE)三种优化算法对模型的输入变量、核参数与正则化系数进行优化选择,进而形成O-KELM方法的三种不同算法:GA-KELM、DE-KELM、SA-KELM。将O-KLEM方法应用于混沌时间序列直接六步预测中,在同等情况下,并与优化的极限学习机(Optimization Extreme Learning Machine,O-ELM)方法进行比较。从仿真结果可以看出,O-KELM方法的预测精度比O-ELM方法提高约一个数量级。并且DE-KELM算法具有最低的均方根误差。然后,将O-KELM方法应用于某地区风电场的风电功率预测实例中,分别进行提前10分钟的单步和提前20分钟、提前30分钟、提前40分钟的风电功率时间序列直接多步预测,用于评价O-KELM方法的有效性。在不同时间尺度下的风电功率时间序列预测的实验结果表明,O-KELM方法比O-ELM方法具有更好的预测精度,其中,提前10min、20min、40min预测时,GA-KELM算法具有最小的均方根误差,提前30min预测时,DE-KELM算法具有最小的均方根误差和正则化均方误差。从而证明了O-KELM方法的可行性和有效性。

关键词： NMVFSA-ELM   RAFM   CLAM   Ta优化  

摘要： 核聚变能是一种清洁、能源密度高、安全且不受气候影响的新能源,被认为是解决人类能源危机的重要出路。而结构材料是聚变堆包层及未来商用聚变电站的瓶颈问题之一,其关系到聚变能否实现并成功应用。目前,聚变堆结构材料研究主要考虑：成分优化研究,聚变结构材料性能研究,制造工艺和连接方面研究,化学相容性、腐蚀和辐照方面。本文基于极限学习机方法对聚变结构材料的成分优化及性能预测进行了研究,主要工作如下：(1)鉴于聚变堆结构材料数据的多因素、非线性、不确定性,提出一种基于改进的快速模拟退火算法和极限学习机的聚变堆结构材料性能预测方法改进快速模拟退火算法的极限学习机(Modified Very Fast Simulated Annealing Extreme Learning Machine, MVFSA-ELM),该方法在保证了极限学习机算法优势的基础上,利用改进的快速模拟退火算法优化了极限学习机的参数,加快了极限学习机隐节点个数的确定,确保了极限学习机预测的全局最优解。在与I-ELM、 CI-ELM、EI-ELM、EM-ELM等算法的对比分析中,MVFSA-ELM算法体现了运算精度上的优势。为进一步验证该算法在聚变堆结构材料性能预测上的可行性,本文首先用该算法对印度低活化钢(Indian reduced activation ferritic-martensitic, IN-RAFM)的抗拉强度进行预测,预测结果与实验结果吻合较好。(2)提出了一种适合大数据集聚变堆结构材料性能预测的方法NMVFSA-ELM,该方法不仅能够保证获得全局最优解,还将能够更加快速收敛到最优解。在多个数据集上进行验证对比分析,该算法具有比MVFSA-ELM算法更快的预测速度,有助于对未来核能大数据的性能预测。同时用欧洲EUROFER97的辐照硬化性能进行进一步验证,也取得了较好的预测效果。(3)基于NMVFSA-ELM算法设计实现了核反应堆材料在线性能预测系统。该系统具有较高的性能预测精度、速度及数据存取速度。系统针对不同用户的差异性要求及总体需求,设计实现了查询功能模块、结果处理模块、信息管理模块、帮助功能模块四大功能模块。其中,查询功能模块设计实现了按材料查询、按性能查询和按成分查询三种不同的查询方式。结果处理模块设计实现了性能数据的下载、打印,在线绘图,在线性能预测等功能。信息管理模块满足管理员对用户管理和数据管理的需求。帮助功能模块有助于用户了解如何操作该系统。基于上述系统对世界三大工业化RAFM钢之一中国低活化钢CLAM进行钽(Ta)优化研究,预测其屈服强度、抗拉强度、断后伸长率、断面收缩率等性能随Ta含量及实验温度变化的规律。不仅验证了预测数据与实验数据非常吻合,还预测了Ta质量百分比分别为0.10wt%、0.12wt%、0.14wt%、0.16wt%、0.17wt%、0.20wt%等新条件(尚未进行过实验的条件)下的屈服强度、抗拉强度、断后伸长率、断面收缩率等性能参数。经过对比分析,当温度在350-550℃时,Ta质量百分比范围在0.18wt%-0.20wt%时,CLAM钢将具有更好的屈服强度和抗拉强度,在相同的温度和Ta含量下,断面收缩率和断后伸长率没有明显的下降。分析结果将为CLAM钢Ta优化的进一步研究起到一定辅助参考。

关键词： 故障预测   特征提取   核主元分析   极限学习机  

摘要： 现代工业生产技术发展迅速,对生产要求也逐步提高,生产系统也逐渐向大规模化、复杂化、智能化和数字化发展。生产设备之间互相关联,耦合度高,使得复杂系统故障特征呈现不确定性、非线性等特征。为了确保复杂工业系统正常进行,除了基于传统的故障诊断技术,还要求在故障发生前能够进行故障预测。故障预测技术是一种更先进的安全保障技术,现已逐步成为各个生产领域的研究重点。为此,本课题针对复杂系统的数据特征处理、神经网络建模、故障预测方法做了以下研究：(1)针对时间序列数据,本文重点研究实际生产系统中的过程变量变化的特征,提出差分向量核主元分析(Differential Vector Kernel Principal Component Analysis, DV-KPCA)的特征提取和重构的方法。由于复杂系统的关系变量多,故障数据特征不明显,通过DV-KPCA方法,将能够利用核函数来解决复杂系统中的非线性映射问题,在高维空间中利用差分运算,从而对数据进行降维,最后达到消除冗余信息和特征提取的目的。(2)针对动态系统,本课题提出一种动态建模方法。在极限学习机算法(Extreme Learning Machine, ELM)基础之上,对ELM的结构进行改良,提出一种动态递归极限学习机算法(Dynamic Recurrent ELM, DR-ELM), DR-ELM网络在隐含层中增加了自反馈层,对隐含层输出进行记忆,通过计算自反馈层存储的历史信息的趋势变化,动态调整隐含层权值,使得DR-ELM具备对历史数据信息处理和映射动态特征的性能,提高模型的预测精度。(3)针对数据在线训练学习问题,本课题重点研究在线极限学习机(Online Sequential ELM, OS-ELM)方法。在OS-ELM的网络结构基础上继续进行改良,通过误差反馈层和自反馈层的构建,提出动态递归在线极限学习机(Dynamic Recurrent OS-ELM, DROS-ELM)。DROS-ELM的误差反馈层融合现场误差信息,实现神经网络根据实际误差信息进行动态调整,保证故障预测模型的精度；自反馈层通过提取数据历史变化趋势的信息,调整隐含层的输出,解决数据时延对系统精度的影响。最后本文为验证DROS-ELM的有效性,在TE过程上进行故障预测实验,实验结果表明,该方法能够能保证较高的故障预测精度。本文的研究结果表明,采用DV-KPCA特征提取算法对时间序列数据进行特征提取和重构,能够有效提升故障预测的效果。同时通过改进极限学习算法,构建基于DROS-ELM的复杂工业过程故障预测模型,能够通过自反馈层计算趋势变化信息,通过误差反馈层提升故障预测的成功率,为故障预测方法提供了新的思路。

关键词： 智能交通系统   短时交通流预测   实时极限学习机   机器学习  

摘要： 短时交通流预测是智能交通系统中的重要部分,它在实现交通管理系统的高效管理和动态分配交通流方面起着重要作用。因此快速地得到短时交通流预测结果、提升短时交通流预测精度是有效运行交通管理系统的保证。传统的预测方法大多采用离线技术,无法实时预测,训练阶段耗时较多,且预测准确性和稳定性较差,目前常用的人工神经网络方法采用平滑的历史数据来预测未来短期内的交通流,这种方法没有考虑因传感设备故障而引起数据波动剧烈的场景。本文针对短时交通流场景中的预测,基于短时交通流实时性、准确性、可靠性三大特征和极限学习机优点来预测短时交通流。主要工作如下:针对预测实时性不足问题,减少训练时间,实现实时预测,采用滑动窗口增量式更新预测模型,能够在交通流峰值期快速训练历史数据并能增量地更新到达的数据;对于已经训练过的数据,根据距离目标时间的先后以及数据本身特征分配不同的权值,自适应丢弃部分,再与添加的新训练样本一起进行预测。由此提出一种基于在线序列的实时极限学习机短时交通流预测模型。针对预测准确性不足问题,考虑反馈机制,将实时极限学习机的预测值与理论期望值的差值反馈给输入层,形成反馈实时极限学习机网络结构,并根据反馈误差对输入权值做出相应调整。针对预测稳定性不足问题,考虑融合机制,即加权平均融合机制和Adaboost融合机制,确保训练学习过程的稳定性,避免了仅仅依靠当单个极限学习机而不能很好地适应新到达的数据且预测精度不高的缺陷。由此提出一种基于权值融合的反馈实时极限学习机短时交通流预测模型。本文实验数据均来自开放性能评价系统平台PeMS 14.0,通过实验验证,优化后的模型其预测结果在均方根误差、标准误差百分比以及时间消耗等方面比其他经典短时交通流预测方法的结果提高了百分之十五,且在平稳交通场景和非平稳交通场景下的有较好的适用性。

关键词： 极限学习机   大数据   MapReduce   粒子群算法   NOx排放  

摘要： 极限学习机（Extreme Learning Machine, ELM）以其学习速度快、训练参数少和泛化性能好等特点,被广泛应用于数据挖掘中。但是面对如今的大规模数据,极限学习机与传统的机器学习算法一样,由于受到计算机内存的限制,训练时间太长,甚至有可能无法运行。针对以上问题,本文将极限学习机与当下流行的大数据技术相结合,利用MapReduce这个并行框架来实现极限学习机的并行化,使极限学习机达到高效处理大规模数据的目的。随着经济的迅猛发展,能源消耗随之逐年增加。我国能源结构以煤为主,燃煤电厂产生的NOx日趋严重,如何有效地控制NOx的排放一直是人们关注的焦点。随着工业4.0的提出和存储技术的提高,工业处于一个数据爆发的时代,每时每刻都在产生新的数据,数据库的存储量也日益增加。为应对我国火电行业信息化建设出现的大规模数据,寻找行之有效的大规模数据处理技术已经成为一个热门研究。本文的主要工作如下：（1）针对传统极限学习机集成方法无法有效处理大规模数据的问题,提出基于MapReduce框架的并行化极限学习机集成方法。通过分析极限学习机的集成方法,发现每个极限学习机网络的训练为并列独立进行,证明该过程是可以分解的。该算法由一个MapReduce Job实现,Map阶段将集成学习中的每个极限学习机网络并行地训练。通过实验证明该算法在精确度上和单机极限学习机集成方法几乎一样,但训练速度更快,可以更加高效地处理大规模数据。（2）针对极限学习机随机初始化输入权值和隐含层偏置,可能存在非最优的输入权值和隐含层偏置的问题,提出基于MapReduce框架的并行化粒子群极限学习机方法。研究发现,在粒子群极限学习机算法的运算过程中,粒子适应度值的计算与样本的大小有关,若样本太大会导致训练时间过长等问题。而适应度函数采用极限学习机网络的误差,极限学习机在求解输出权值的Moore-Penrose广义逆中矩阵乘法是计算量最大的部分,由于其可以分解,故将其并行化。通过实验证明,相比极限学习机,该算法得到了较高的预测准确率。（3）将本文提出的极限学习机并行化算法应用到NOx排放预测中。通过分析锅炉运行参数及影响NOx排放特性的因素,确定极限学习机的输入输出参数,建立NOx的排放预测模型。并通过实验验证了本文提出方法的有效性。

关键词： 小波变换   ARMA   ELM   网络流量预测  

摘要： 随着社会网络迅速发展,计算机网络已经发展成为现代化社会最为基础的设施之一,人们的日常生活与之也越来越紧密。同时Internet的普及率越来越高,尤其是在一些地区,网民数量呈爆炸式的增长,这对计算机网络的安全及管理提出巨大挑战。研究并利用网络流量预测来对网络进行有效的监管已经成为计算机网络应用的重要工作。网络流量预测主要是对采集的连续网络数据通过建立某种数学模型来预测未来一段时间的网络流量,然后通过对预测的结果分析出可能发生的问题,针对相应的问题网络管理员提前采用一定的预防措施,保障计算机网络的安全/稳定运行。同时流量预测对网络的异常或者攻击行为提供了依据,对加强网络管理、掌握流量的规律,以及提高拥塞服务、负载均衡都具有重要的意义。由于网络流量数据的非平稳性和长相关性等特点,采用单一的预测模式对原始时间序列预测很难取得好的效果。本文提出一种基于小波变换(Wavelet Transform)、自回归滑动平均模型(ARMA)和极限学习机(ELM)的组合预测模型W-ARMA-ELM。这个模型利用小波分解的比例收缩特性将长相关的时间序列分解为短相关的子序列,然后使用自相关性和偏自相关分析确定子序列的平稳性,再分别使用ELM和ARMA进行预测。我们使用了三组不同的网络流量数据来检验W-ARMA-ELM的预测性能,包括兰州大学教育网和网通流量数据,英国学术主干网流量数据。实验结果表明,我们提出的组合方法要比单一的ARMA和ELM预测效果要好,预测精度有较大的提高。同时,文章指出使用自相关和偏自相关分析相结合的方法对分解后的子序列进行平稳性判定有利于帮助选择合适的组合模型从而提高预测的精度。

关键词： 转炉炼钢   BP神经网络   极限学习机   粒子群算法   差分进化算法   终点控制  

摘要： 转炉炼钢是目前世界上炼钢的主要方法,主要任务是冶炼出温度、成分均合乎钢种要求的钢水,其中对转炉的终点控制是关键技术。提高终点控制的准确性能够有效降低生产成本,提高效益。我国目前依然存在大量的自动控制水平较低的小型炼钢厂,受到多方面限制,还在依靠人工经验和静态控制指导生产。针对这一问题,结合神经网络和静态控制建立模型来提高对转炉终点碳温预测的精度,从而达到对转炉炼钢终点的控制。在充分阅读国内外转炉终点控制领域的相关文献的基础上,介绍目前国内外的研究现状和成果。深入分析了转炉炼钢机理模型,根据冶炼目标要求和原料成分,利用热平衡和物料平衡,计算出入炉前的原料配比。基于历史数据建立预测模型是静态控制的核心,根据采集的原始数据,对数据进行预处理.包括剔除异常值,归一化,采用灰色关联分析相关参量与终点碳温的相关度。取关联度较大的参量作为模型的输入。基于样本数据,建立BP神经网络预测模型,针对BP模型基于梯度下降迭代调整权值而的缺陷,采用粒子群算法对网络的初始权值和阈值进行优化,来避免网络陷入局部最优和反复的迭代,提高模型的预测精度。建立ELM预测模型,ELM采用的是随机隐藏层初始权值和阈值的做法,通过解析计算来求得输出权值。针对网络结构冗余泛化能力不够的缺陷,融合粒子群算法和差分进化算法,对ELM模型随机的隐藏层初始权值和阈值进行寻优,以提高模型的泛化能力和预测精度。采用某炼钢厂中采集的60组实际炼钢生产数据作为样本,对几种模型进行仿真校验,横向对比优化前后各模型的预测精度,对结果综合进行总结,纵向分析模型优化前后的性能参数和预测结果,最后综合得出结论。

关键词： 结构健康趋势预测   损伤特征提取   极限学习机   马尔科夫模型   粒子群  

摘要： 20世纪以来国内外土木工程结构的建设取得了突破性、划时代的发展,同时这类土木结构的安全性和耐久性也越来越受到人们的关注,这使得结构健康监测与预测诊断技术成为社会研究的热点,对正在建设的和正在服役的土木工程结构设施进行有效的损伤监测、评估和趋势的预测,具有重要的意义,本文以结构健康状态趋势预测为研究目的,分别对结构损伤的特征提取和趋势预测进行了深入研究,研究内容如下:(1)为了有效的提取结构的损伤特征,提出了一种基于EEMD和HT变换的结构损伤特征提取方法。首先对原始信号进行EEMD分解,提取包含结构损伤信息的IMF分量,再对其进行HT变换计算瞬时频率。试验表明:结构损伤前后瞬时频率会发生明显的变化,能够有效反映结构因损伤引起的状态变化,并且可以准确地体现结构刚度变化的趋势,从而反映结构健康状态的发展趋势。(2)极限学习机受本身算法的制约导致其预测精度不高,误差较大,为了能更精确的预测结构健康状态的趋势,提出一种结合极限学习机和马尔科夫模型的预测方法。首先利用极限学习机对表征结构损伤的瞬时频率进行预测,计算拟合误差,然后对拟合误差建立马尔科夫模型预测出极限学习机的预测误差,并修正极限学习机的预测值。试验表明:极限学习机马尔科夫预测模型由于受马尔科夫状态预测值的约束,导致其预测误差相比极限学习机差异不大,预测精度仅仅略有提高,不能有效的预测结构健康状态的趋势;不同的隐层神经元数目和马尔科夫状态数都会影响预测精度,因此需要针对具体的实际问题选择合适的神经元和马尔科夫状态数。(3)针对极限学习机马尔科夫模型的预测精度不能满足要求这一问题,提出一种粒子群优化的极限学习机马尔科夫模型。该方法是利用粒子群算法对极限学习机马尔科夫模型中的状态预测值进行自适应寻优,找出可能性最大的状态预测值。试验表明:利用粒子群算法能够找出相应的马尔科夫状态区间中最合适的状态预测值,使得整个极限学习机马尔科夫模型预测值更接近真实值,误差更小精度更高。

关键词： 煤矿突水预测   粒子群优化算法   极限学习机   加权极限学习机   多最优逃生路径   Dijkstra算法   K则最优路径算法   D-K算法   PSO-WELM突水预测模型  

摘要： 煤炭作为我国的主要能源,在国家能源发展战略中占有及其重要的地位。但是我国煤矿地质结构复杂,突水事故频发,对煤矿正常生产造成严重的经济损失,甚至危及井下人员生命安全。在煤炭开采过程中,对煤矿突水进行预测,并对人员逃生路线进行设计,是保障煤矿安全的有效手段。煤矿突水是由众多因素综合作用的结果,而这些因素间的相互联系,使得煤矿突水与影响因素之间的关系变为非常复杂的非线性关系,利用传统的数学模型根本无法建立快速准确的突水预测模型,因此,本文对现有的突水预测方法进行研究,提出了基于PSO-ELM和PSO-WELM的预测模型,并通过经典UCI数据集对两种模型进行验证与比较分析,证明基于PSO-WELM的预测模型更符合煤矿突水预测的要求,并将该模型应用于煤矿突水预测研究中。在PSO-WELM突水预测模型的应用中,本文首先根据煤矿突水机理选取影响煤矿突水的主要因素;之后搜集大量的煤矿突水历史数据,并将数据集分为训练集与测试集,对煤矿突水预测模型进行训练与测试,建立了煤矿突水预测模型,对煤矿是否发生突水以及发生的突水类型进行预测。另外,本文针对煤矿突水问题,还对煤矿水灾逃生路线问题进行研究。无论是由自然因素造成煤矿突水事故,还是通过突水预测模型预测出突水时,都需要及时组织井下人员迅速撤离到安全位置,保障人员生命安全。而井下环境复杂恶劣,一旦发生突水,井下环境更为复杂,如何使井下人员沿着最优的逃生路径利用最少的时间到达安全逃生位置,是本文的另一研究重点。矿井水灾时选择合理的逃生路线,需要考虑水及巷道其他因素对人员通行的影响,此时,两点之间的距离不再是绝对距离,而是相对距离,因此本文引入当量长度的概念来表示巷道通行的难易程度。本文在Dijkstra算法和K则最优路径算法的基础上提出了基于D-K算法的煤矿水灾多最优路径选择算法,该算法可求得从事发地点到煤矿所有逃生井口的多条最优逃生路径,不仅可以缓解人员拥挤,还可以及时有序的组织人员撤离到安全位置。文中结合矿井实例,利用D-K算法与Dijkstra算法和K则最优路径算法比较,证明了D-K算法用于煤矿水灾逃生路线选择的优势。