关键词： 深度学习   GRU神经网络   滑坡位移预测   注意力机制   时间卷积神经网络  

摘要： 滑坡是一种常见的毁灭性自然地质灾害,受降雨量、地质环境、人类生产活动等多种因素影响,其预测难度大、破坏性强、隐蔽性高,严重威胁到了人类的安全和自然环境的稳定。因此,对于滑坡的监测和预测非常有必要,特别是对滑坡演变过程的预测能够最大程度的减轻滑坡对人类的伤害。滑坡是一个极其复杂的非线性演化过程,受多种因素的影响,变化规律复杂,与滑坡预测研究的各种传统方法相比,深度学习有其独特的优势,主要体现在对引起滑坡各因素的相关性分析、历史数据之间的信息利用、预测精度、避免出现过拟合等。本文以广西某边坡滑坡数据集和白水河滑坡公开数据集为例,构建基于深度学习的滑坡位移预测模型,其中广西某边坡滑坡数据集中包括滑坡累计位移、位移增量、瞬时滑坡速度、瞬时滑坡加速度和降雨量,白水河滑坡公开数据中包括滑坡累计位移、降雨量和长江水位,主要研究内容如下: (1)滑坡监测数据反映了真实的滑坡变化过程,这些数据是通过传感器监测得到,但在监测过程中,常常因为某些原因导致监测的滑坡数据异常、缺失以及存在噪声。本文选用箱型图对数据中的异常值去除,用最小二乘支持向量机对缺失的数据进行补齐,数据中存在噪声利用小波变换进行处理,从而保证数据的完整性和有效性。 (2)采用GRU神经网络为基础,对滑坡位移进行预测研究,GRU神经网络对序列数据具有长期记忆能力,对滑坡数据能够高效学习。但单层GRU神经网络只能正向的学习滑坡数据信息,不能反向学习滑坡相关数据信息,而双向的GRU神经网络能够对滑坡数据进行正向和反向学习,同时引入注意力机制,利用注意力机制对滑坡数据中各个特征权重自动进行有效划分,构建Att-Bi GRU滑坡位移预测模型。选取均方根误差(RMSE)和平均绝对百分比误差(MAPE)作为模型评价指标,在数据集中与同类型其他模型进行实验结果对比分析,实验结果表明Att-Bi GRU模型预测精度得到明显提高。 (3)滑坡受多种因素影响,单一深度学习模型对滑坡数据特征提取有限,基于此,提出MCSETCN-Bi GRU-Att滑坡位移预测混合模型。该模型由多尺度卷积网络模块、SENet模块、TCN模块和GRU模块构成。多尺度卷积模块提高对滑坡数据特征的提取能力,TCN模块能够并行高效学习滑坡数据,SENet模块加强滑坡数据特征表达能力。在数据集中与其他模型进行实验结果对比分析,实验结果表明MCSETCN-Bi GRU-Att滑坡位移预测混合模型的评价指标最优,位移预测值与真实值误差最小,预测精度最高。

关键词： 交叉口事故严重程度   因子分析   鹈鹕优化算法   混合核极限学习机  

摘要： 随着经济快速发展、机动化进程不断加快,交通需求大幅增加,导致了各种交通安全问题,给人们带来巨大的生命财产损失。而交叉口作为道路交通系统的关键枢纽,交通流复杂,交通事故频发。解决交通安全问题的出发点是对事故进行科学合理的分析和预测。对于大样本、高维度的交通事故数据,在事故影响因素分析方面,因子分析模型可以对数据起到很好的降维作用;在事故预测方面,机器学习方法有着很好的适用性和预测准确度。基于此,本文深入挖掘交叉口交通事故数据,基于因子分析模型,从道路、环境、车辆、驾驶员四个方面,对交叉口交通事故影响因素进行研究分析,了解其对事故的内在作用机理。将优化算法与机器学习方法结合,构建适用于交叉口交通事故严重程度预测的模型,为事故严重程度预测提供准确度和适应性更强的方法。首先本文以英国2019年交通事故数据为研究对象,选取发生在交叉口的事故数据,使用LOF算法对事故异常数据点进行检测和清洗。基于道路、环境、车辆、驾驶员四个方面选取了19个特征变量,并对数据进行归一化处理。其次,建立了交叉口事故因子分析模型,提取了6个公共因子,构建起三层交叉口交通事故影响因素的评估指标体系。改进权重模型,得到各影响因素对事故的影响重要性程度,其中照明情况、限速、车辆类型、天气情况、年龄、交叉口控制、行驶状态是对交叉口事故影响最显著的因素。然后,为了提高鹈鹕优化算法对本文事故预测模型的参数寻优能力,对该算法提出了三点改进,基于佳点集理论生成初始种群、引入反向差分进化机制以及最优个体自适应变异。通过与其它性能较好的优化算法比较,验证了本文提出改进策略的有效性和鲁棒性。最后选择多项式核函数和高斯核函数作为混合核极限学习机的两种核函数,使用改进鹈鹕优化算法对混合核极限学习机的参数进行优化,构建了基于改进鹈鹕优化算法的混合核极限学习机的事故预测模型,对交叉口事故严重程度进行预测。并将其与极限学习机、随机森林、支持向量机和概率神经网络模型的预测结果对比,基于精确率、召回率、F＿measure、Kappa系数、ROC曲线以及本文构建的新评价指标——事故严重程度预测不接受率进行评价。结果显示,改进鹈鹕优化算法混合核极限学习机模型表现最优。

关键词： 软件缺陷预测   类不平衡   混合采样   麻雀搜索算法   深度极限学习机  

摘要： 数字时代的到来,催生了软件行业的飞速发展,如何更好地保障软件质量成为了软件开发的一个重要议题。在软件产品的开发过程中,潜在的软件缺陷可能会使得软件在交付使用后产生难以估计的损失。所以,针对软件缺陷的预测逐渐成为了研究热点之一。软件缺陷预测研究旨在在软件测试之前预测出容易出现缺陷的组件,并将更多的测试资源有效地分配给这些更易出错的模块。这样,在节约了测试成本的同时,也可以规避潜在的软件问题所带来的巨大风险。软件缺陷预测的研究面临两大问题:一是数据集的类不平衡问题,二是软件缺陷预测模型的优化问题。本文针对以上两个问题分别展开了研究,主要工作内容如下: (1)针对数据类不平衡的问题,提出了一种KSI(K-means-SMOTE-IPF)混合采样方法来处理不平衡的软件缺陷数据。KSI方法以传统SMOTE算法为基础,将K-means聚类、SMOTE过采样、IPF过滤三大算法进行结合以解决SMOTE固有的忽略数据分布以及对噪声无差别采样的问题。实验结合了KNN、SVM和RF三种分类器对KSI采样方法进行验证。结果显示,KSI采样方法与三种分类器结合后较其他5种基线采样方法在F1、AUC、MCC指标以及平均性能方差上获得了更佳的表现。 (2)针对缺陷预测模型的优化,提出了一种KWSSA(K-means Weighted Sparrow Search Algorithm)智能优化算法。KWSSA是一种基于K-means聚类算法改进的麻雀搜索算法,其原理是通过K-means聚类使得麻雀种群分成若干子种群,子种群间可以通过加权策略进行信息交流,从而消解原始SSA易陷入局部最优的风险。深度极限学习机(DELM)作为一种神经网络,其输入权重的优劣对其预测效果有很大影响。为了验证KWSSA对预测模型的优化效果,本文选择DELM作为基础预测模型,并采用KWSSA来优化其输入权重(KDELM)。实验显示,KWSSA对DELM预测性能的优化效果优于其他五种算法。 (3)结合(1)(2)两点,构建了一种KSI-KDELM软件缺陷预测模型。该模型在采用KSI方法处理不平衡数据的基础上,将KWSSA优化后的DELM作为缺陷预测的神经网络结构。其中,实验结果显示,KSI-KDELM较其他5种基线模型在acc,F1、AUC、MCC指标以及平均性能方差上也获得了更好的表现。Wilcoxon符号秩检验结果也表明了该模型与其他对照模型具有显著性差异。以上实验结果均证明了KSI-KDELM模型的在软件缺陷预测问题上具有优越的性能和良好的稳定性。

关键词： 类不平衡   极限学习机   深度极限学习机   向量加权平均算法   Tent混沌映射  

摘要： 现代社会,软件应用行业蓬勃发展,已经融入日常生活的方方面面,然而,软件系统的快速发展也带来了系统可靠性和安全性方面的问题,软件缺陷的存在会给生产、生活留下隐患,因此软件应用的质量至关重要。软件缺陷预测技术是提升软件质量关键技术之一,根据软件缺陷数据的表面参数从而推测出软件模块是否存在缺点是当今软件领域的研究热点。 目前的软件缺陷预测研究面临类不平衡的问题,为了缓解这个问题通常会使用采样技术来对训练数据进行采样。极限学习机是一种仅有一层隐含层的前馈神经网络,可以利用广义逆矩阵理论进行一次性求解完成模型的构建。极限学习机具有简单的结构,模型的训练速度快,泛化能力强。本文基于极限学习机模型对软件缺陷预测做了一些研究工作,研究内容概括如下: (1)融合向量加权平均算法和深度极限学习机,构成向量加权优化深度极限学习机的软件缺陷预测模型。该模型兼备机器学习训练速度快和深度学习表征能力强的优点,能够提高模型软件缺陷预测的性能,然而深度极限学习机的性能在很大程度上受到其初始参数的影响,针对此问题,利用向量加权平均算法对深度极限学习机的初始参数进行寻优,将寻优得到的参数输入深度极限学习机,利用深度极限学习机逐层求解的特性进行快速求解。在NASA和AEEEM的十个项目上实验结果表明,经过向量加权平均算法寻优获得的初始参数可以使得深度极限学习机的软件缺陷预测模型性能更强。 (2)向量加权平均算法可以有效选择深度极限学习机的初始参数,但是在寻优过程中容易陷入局部最优解,导致收敛精度低。为了解决这个问题,选择了Tent混沌映射对向量加权平均算法的初始种群进行初始化,使得种群分布均匀,增强其全局搜索能力。实验表明,Tent混沌映射优化的向量加权平均算法比原来的向量加权平均算法无论在收敛速度还是收敛精度上都具有更好的性能,进而可以提高软件缺陷预测模型的整体性能。

关键词： 煤矿地质异常   槽波地震勘探   极限学习机   鹈鹕优化算法  

摘要： 煤矿事故的发生会造成大量的人员伤亡和巨大的经济损失，煤层地质异常的存在会增加煤矿事故发生的概率，因此准确地的识别预测对提高煤矿开采的安全性有重要意义。本文以含煤地层为研究对象，结合槽波地震勘探技术，提出基于极限学习机(ExtremeLearningMachine,ELM)的槽波勘探地质异常识别预测方法，对断层等地质异常进行识别分类和位置预测。主要研究内容如下:　　(1)含煤地层地质异常模型建立和槽波数据预处理。　　通过对含煤地层地质异常形态与物性参数的研究，利用COMSOLMultiphysics5.5分别建立含断层、冲刷带、陷落柱和老空水的四种含煤地层模型，以雷克子波为震源信号，利用透射波法采集槽波信号，建立槽波数据集。通过z-score法对槽波数据进行标准化处理,进而利用主成分分析法(PrincipalComponentAnalysis,PCA)进行降维处理，按照8∶2的比例将数据划分为训练集和测试集。　　(2)基于ELM的地质异常识别分类和位置预测研究。　　根据极限学习机原理，建立ELM识别分类模型，根据预处理后的仿真槽波数据，对断层、冲刷带、陷落柱和老空水进行识别分类，测试集分类准确率为94.01％;将长城五号矿1901N工作面的实际断层槽波数据预处理后作为测试集，导入ELM识别分类模型，对实际断层进行识别，识别准确率为88.22％。利用COMSOL建立39个位置不同的老空水模型，构建ELM位置预测模型，对39个老空水中心位置进行预测，预测的平均绝对误差为11.32m。通过对ELM识别分类模型和ELM位置预测模型的分析评价，得出ELM模型性能有待提升。　　(3)基于POA-ELM的地质异常识别分类和位置预测研究。　　利用鹈鹕优化算法(PelicanOptimizationAlgorithm,POA)对极限学习机的输入权值和隐层偏置进行寻优，建立POA-ELM识别分类模型，根据预处理后的仿真槽波数据，对断层、冲刷带、陷落柱和老空水进行识别分类，测试集分类准确率达到98.8％;导入实际断层槽波数据，对实际断层识别准确率达到96.69％。构建POA-ELM位置预测模型，对老空水中心位置进行预测，平均绝对误差为4.24m。通过评价指标和十折交叉验证对POA-ELM模型进行评价，得出POA能够有效优化ELM,POA-ELM模型性能优于ELM模型。　　(4)与其他机器学习方法对比分析。　　基于相同的槽波数据集，利用SVM(SupportVectorMachine,SVM)、CNN(ConvolutionNeuralNetwork,CNN)和BP神经网络进行了识别分类和位置预测测试，通过与ELM、POA-ELM的实验结果对比，进一步说明了POA对ELM优化的有效性，本文提出的POA-ELM识别分类模型具有准确率高、泛化能力与鲁棒性强、稳定性好的优势，同时POA-ELM位置预测模型精确度更高。

关键词： 滑坡形变预测   SBAS-InSAR   GRU   空间相关性  

摘要： 滑坡作为主要地质灾害之一,每年都会给我国造成巨大的人员伤亡和经济损失。考虑到滑坡的发展具有长时间可持续性,因此对滑坡地表开展形变监测、预测研究具有十分重要的现实意义。在相干性较低的山区林地区域,小基线集技术(Small Baseline Subset InSAR,SBAS-InSAR)可以有效弥补失相干的影响,在滑坡灾害监测中具有明显的技术优势。在对监测结果进行预测研究中,基于深度学习的预测模型计算效率和预测精度更高,已在形变预测领域得到蓬勃发展。鉴于目前滑坡地表监测及预测的研究现状,本文采用SBAS-InSAR技术,以西藏昌都市沃达村及周边为实验区域进行滑坡形变监测,然后对监测结果采用门控循环单元(Gated Recurrent Neural Network,GRU)深度学习模型开展预测方法研究,并在顾及监测点的空间相关性情况下进行时序形变预测,更准确的预测了该区域地表的形变趋势。主要研究工作和成果如下: (1)采用SBAS-InSAR技术对研究区地表进行形变监测,结果准确识别出研究区两个滑坡区域,两个滑坡的最大形变速率都在90mm/yr左右,采用内符合精度验证方法对监测结果进行了精度验证,证明了监测精度整体在mm级。同时,在两处典型滑坡区域内选取了六个特征点,分析了其时序形变与降雨量之间的变化规律,得出夏季降雨的增多是导致时序形变加速的主要原因之一。 (2)采用训练更高效,更适合中短期形变预测的GRU深度学习模型,对研究区域的形变监测结果进行了预测和分析。对监测点进行时序预测研究发现,预测形变趋势基本与SBAS-InSAR技术监测结果吻合。研究区所有点的预测结果显示:超过99%的监测点预测残差在10mm范围内,证明GRU模型可以对整个研究区域内的监测点进行较高精度的稳定预测。对比实验结果表明,GRU模型预测精度优于传统的SVR和BP神经网络模型。 (3)本文提出了一种顾及空间相关性的时序形变预测方法,其通过建立时空特征矩阵,基于CNN-GRU预测模型,预测监测点的时序形变。实验结果表明监测点的预测曲线与时序InSAR监测曲线吻合度较高。在顾及空间相关性的情况下使用CNN-GRU模型进行预测,滑坡区域监测点的均方根误差(RMSE)平均值降低了约20.9%,RMSE小于3mm的点数增加了12.9%,整体的预测精度有所提高。证明了顾及空间相关性的预测方法具有更稳定,更高精度的效果。

关键词： 碳交易市场   碳价格预测   数据预处理   极限学习机  

摘要： 21 世纪以来，温室气体的大量排放对全球气候已经造成了显著的负面影响。二氧化碳作为温室气体的重要组成，对其排放量的控制举措的研究已经得到了世界各国的重视。为了达到二氧化碳的减排目标，碳交易市场作为一种有效的二氧化碳排放控制措施应运而生。精准的碳价格预测有助于对碳交易价格波动规律的掌握和理解，有助于相关政策的有效实施和市场的稳定运行，同时也有利于市场参与者规避风险。综合而言，进行精确的碳价格预测是至关重要的。　　由于碳价格时间序列的高非线性和复杂性。传统的计量模型和单一的人工智能模型由于其模型固有缺陷，并不能得到高精度的预测结果。因此，为了提高碳价格预测精度，本文提出了一个基于两步数据预处理方法和优化极限学习机的组合模型。首先，本文将碳价格时间序列采用ICEEMDAN方法分解，剔除序列中的噪音，得到数个结构更加稳定，数据特征更加简单的子序列。随后，为了进一步的简化数据，降低随机误差，提高预测精度，用样本熵衡量子序列复杂性，将样本熵值相近的子序列进行重构并且得到重构序列。然后，本文通过来自三个角度的六个指标构建一个综合指标（MDC），并基于提出的综合指标，将分别采用灰狼优化算法、鲸鱼优化算法和麻雀搜索算法分别优化参数的极限学习机和重构序列，构建为一个集合预测模型，完成预测模型和重构序列之间的一一匹配，并且得到重构序列的预测结果。最后，本文通过随机森林算法对所有重构序列的预测结果进行非线性集成，获取最终的预测结果。　　本文基于 8 个碳交易试点市场中的碳价格数据进行对比实验设计，对模型的预测精度和稳健性进行了验证。对研究结果进行总结和分析，文章总结了以下四条主要结论：（1）在对碳价格时间序列的预测中，序列分解可以有效的提高模型的预测精度。并且本文通过比较实验验证了结合ICEEMDAN的模型预测精度高于结合了其他分解方法的模型预测精度。（2）两步数据预处理方法相比单一的分解方法，能够有效的突破模型局限性，获得更高精度的预测结果。本文通过比较实验验证了结合了两步数据预处理的模型预测精度普遍高于结合单一分解方法的模型预测精度。（3）时间序列间存在不同的数据特征，序列与预测模型间的匹配是必要并且有效的。比较实验中，本文提出的集合预测模型在所有的比较模型中具有最优的预测性能，实验结果验证了集合预测模型在碳价格预测领域中的精确性和稳健性。（4）在子序列预测结果的集成中，采用随机森林的非线性集成方法对各序列的预测结果进行集成，得到的最终预测结果优于采用简单线性集成得到的最终预测结果。

关键词： 短期电力负荷预测   麻雀搜索算法   核极限学习机   皮尔逊相关系数   变分模态分解  

摘要： 电力作为国民经济发展的关键能源之一,电力系统承担着生产、传输、分配和使用电力的重任,构成了一个极为复杂的体系。高精度短期电力负荷预测对于确保电力系统可靠性至关重要。然而,各种产业的发展,尤其是高耗能产业的增长,进一步推动了电力需求的快速扩张。这不仅给电力系统带来了巨大的压力,同时也为短期电力负荷预测提出了更高的要求。传统的预测方法与单一智能预测模型难以实现对负荷的精准预测,因此,本文围绕群智能优化算法、机器学习以及数据预处理,构建短期电力负荷组合预测模型。本文主要研究内容如下:(1)针对单一预测模型精准度低以及各类影响因素错综复杂的问题,本文提出一种基于改进麻雀搜索算法(ISSA)优化核极限学习机(KELM)的短期负荷预测模型。首先,针对原始麻雀搜索算法(SSA)寻优效果不足的问题,加入非线性递减权值与自适应萤火虫扰动策略来控制算法全局搜索与局部搜索的平衡,并利用基准函数来测试ISSA的性能。然后,利用ISSA优化KELM的核参数与正则化系数,提升其模型稳定性,同时选用皮尔逊相关系数(PCC)筛选最佳特征集,降低低相关冗余特征对模型精度的影响,从而提升模型整体预测性能。(2)针对电力负荷数据自身存在的波动性与非线性,本文提出一种基于序列分解与优化核极限学习机的组合预测模型。利用变分模态分解(VMD)对电力负荷数据进行自适应分解,并选择优化后的KELM模型对分解后的各序列进行逐一预测,再将各预测值累加得到最终的结果。鉴于VMD受其参数影响,本文提出NGO-VMD、ISSA-VMD以及IVMD三种分解方式对电力负荷数据进行自适应分解,有效地去除了数据中的噪声影响,提高预测模型对电力负荷数据的拟合能力,从而进一步提升了模型整体预测性能。(3)在本研究中,我们通过仿真实验,将本文所提组合预测模型与其他经典机器学习、深度学习预测模型进行对比,验证了本文提出的预测方法具有更优的预测表现。这为短期电力负荷预测提供了一种新的、有效的解决方案,有助于提高电力系统的运行效率和可靠性。

关键词： 短时交通量预测   极限学习机   核密度估计   概率预测   混合预测模型   预测精度  

摘要： 随着中国智能交通系统(ITS)的快速发展,短时交通量预测技术引起了实践领域和学术界的广泛关注。高效、准确的短时交通量预测可以为实时、动态、高效的交通管理和控制系统提供基础。短时交通量预测在一定程度上影响了智能交通系统的发展。因此,需要更准确的短时交通量预测,以保持ITS的安全稳定运行。然而,综合现有的预测模型,考虑到交通本身的非线性、复杂性和不确定性等特点,要准确预测交通流是相当困难的。所以,需要构建更为科学有效的预测模型对短时交通量数据的复杂特性进行描述和趋势预测,为提高城市交通管理水平提供帮助。本文首先阐述了交通流基本特征参数,分析了短时交通量特性,介绍了数据来源与数据预处理方法,比较分析了不同短时交通量预测模型的优缺点以及不同概率预测模型的优缺点;接着,介绍了极限学习机(ELM)方法和改进核密度估计(AKDE-CKDE)的理论知识,构建了ELM-AKDE-CKDE混合预测模型,并说明该模型进行确定性预测的构建流程;其次,针对确定性预测模型无法反映交通量随机性的问题,构建了ELM-AKDE-CKDE概率预测模型,并给出该概率模型的求解方法;然后,选取平均绝对误差(MAE)、平均相对百分比误差(MRPE)等4个指标评价混合模型的预测精度,平均置信区间宽度(Average CI width)和无效覆盖率(KP)2个指标评估模型的可靠性;最后,对重庆市主城区某主干道路的两个进口道A、B的交通量数据进行建模与预测,将本文构建的短时交通量混合预测模型ELM-AKDE-CKDE的预测结果与其它预测模型进行对比。结果表明,本文构建的短时交通量混合预测模型ELM-AKDE-CKDE不仅能实现高精度的确定性预测,还能可靠反映短时交通量的随机性。本文的创新之处在于利用ELM预测模型与AKDE-CKDE方法的优势,构建一种新的组合预测方法ELM-AKDE-CKDE,能够兼顾短时交通量数据中的非线性和随机特征,并表现出令人满意的预测性能,为城市交通管理提供有力支撑。

关键词： 滚动轴承   剩余寿命预测   健康状态划分   多变量反馈式极限学习机  

摘要： 滚动轴承作为机械装备中的关键部件,其工作状态直接影响机械装备的整体性能。滚动轴承一旦发生故障将会导致连锁故障,甚至可能造成巨大的经济和人员事故。因此,监测滚动轴承的健康状态,预测其剩余使用寿命,对保障整个机械系统的可靠安全运行具有重要意义。本文围绕数据驱动方法在剩余寿命预测中的关键问题,分别从特征提取、健康状态划分以及剩余寿命预测三方面展开研究。主要研究工作如下:针对传统退化特征对滚动轴承退化趋势不敏感的问题,提出基于累积变换的特征提取方法。从滚动轴承振动加速度信号中提取时域和频域特征,利用局部加权回归平滑算法对特征进行平滑,引入累积变换算法将平滑后的特征转换为对应的累积变换特征。经过累积变换处理的特征增强了故障敏感性,可以更加准确的反映滚动轴承的退化趋势。针对初始故障点难以确定的问题,提出一种基于连续触发机制的滚动轴承早期退化检测方法。首先利用皮尔逊系数筛选出对退化趋势敏感的特征,然后利用主成分分析得到第一成分,以第一成分的一阶差分数列作为健康指标。最后基于连续触发机制对健康指标进行健康状态划分,获得准确的初始故障发生点。为了提高滚动轴承剩余寿命预测精度,提出多变量反馈式极限学习机网络。极限学习机具有学习效率高、泛化性强的优势,引入反馈机制进一步自适应调整网络,提出多变量反馈式极限学习机。以退化阶段的多个累积变换特征为输入,基于反馈式极限学习机构建滚动轴承剩余寿命预测模型。将所提出预测模型应用于PRONOSTIA轴承加速寿命试验数据,验证模型的预测精度和效率。