关键词： 航天器   支持向量回归机   智能算法   循环神经网络   长短期记忆网络  

摘要： 航天器指的是在地球大气层以外的宇宙空间中按照天体力学运动的各种飞行器,本文研究对象为人造卫星。卫星是一种高动态复杂的系统,造价昂贵,维护成本高,并且对国家有及其重要的战略意义。若卫星状态异变处理不及时可能会引发卫星事故,造成严重损失。卫星状态异变往往伴随着其关键参数的异变,因此可以基于关键参数历史数据上对异变趋势进行预测,以减小在轨卫星发生不可逆故障的可能性。本文的主要研究内容与贡献包括如下:(1)本论文针对研究对象——合作方提供的卫星实测信号时间序列的特点进行简要的分析,提出与之相适应的数据清洗预处理流程,包括去除野值、插值补偿、高频降噪,并说明机器学习模型预测精确度的量化判定指标。(2)本文使用浅层学习模型中的支持向量回归机(SVR)对实测数据进行趋势预测,该模型能够高效地进行短时间趋势预测。针对SVR参数最优化问题,使用智能优化算法中的遗传算法以及粒子群算法,优化SVR中自由参数,并在粒子群算法中优化固定惯性权重为递减惯性权重函数,同时添加收缩因子自适应项函数于速度迭代式,改善其最优搜索性能,从而使得预测模型更为精确。(3)本文使用深度学习模型深度神经网络中长短期记忆网络(LSTM)对实测数据进行情景学习和趋势预测,该模型可以有效预测中长时间趋势。循环神经网络(RNN)具有学习序列情景特征的能力,可以获得一定的短期记忆,但由于RNN存在梯度弥散问题导致无法解决序列长期依赖问题,基于此本文提出使用LSTM。LSTM可以从结构源头上改善RNN对长时间依赖的记忆能力,并通过防过拟合、小批量组合、自适应学习率等优化技术建立性能更好的深度学习预测模型。深度学习模型能够在时间维度上挖掘并学习更多潜在异变前后关联情景,可以实现更好的推广预测。最后,本文使用两类机器学习模型来对卫星实测信号时域信息进行异变趋势预测,从实验结果可以得出使用浅层学习SVR模型可以高效完成短期预测并达到精度指标,使用智能算法组合预测模型能够较大程度提高传统网格法SVR预测精度;使用深度学习LSTM模型可以完成中长期预测并达到精度指标,辅以深度学习优化技术能使得模型预测精度更高。

关键词： 扩散张量成像   机器学习方法   放射性脑损伤   鼻咽癌  

摘要： 目的:利用磁共振扩散张量成像技术（DTI）、基于纤维束的空间统计方法（TBSS）和机器学习方法研究鼻咽癌患者放疗后不同时期全脑白质结构及全脑白质网络的改变情况,探索基于全脑DTI数据,机器学习方法能否对放疗后不同时期患者与对照组在个体水平进行区分,达到较高识别率,寻找最具区分能力的脑白质区域及白质连接,作为放射性脑损伤的生物学标志,为临床早期诊断及干预提供理论依据。材料和方法:对77例鼻咽癌放疗后患者及67例正常对照进行DTI扫描。***数据预处理:将原始DICOM格式的数据转化为NIFTI格式,用McFliirt及eddycorrect消除头动误差及进行电涡流校正,用BET进行脑提取,进而通过DTIFit生成FA图。2.图像处理:接着利用TBSS寻找鼻咽癌放疗后病例组与对照组之间的脑白质FA值存在差异的区域。将所得每个FA值图像互相配准得到目标图像,并通过仿射变换配准到MNI152空间中,创建一个平均FA值骨架。3.分类:将FA骨架图像连成特征向量,提取出组间有显著差异的特征,使用支持向量机（SVM）对其进行分类。4.白质网络构建:利用自动解剖标记模板（AAL）对每个被试的DTI图像进行脑区分割（116个脑区）,并进行确定性的白质纤维束追踪,进而生成对称的116×116脑矩阵,去掉对角成分,选择上三角的成分（6670 elements）当作分类特征。5.白质网络分类:采用两样本t检验提取出组间具有显著性差异的特征,再进行非线性特征的提取,使用SVM对其进行分类。最后采用置换检验（permutation test）及ROC曲线来评价分类器的可靠性。结果:放疗后0-6个月组与对照组分类识别率为84.5%。和对照组相比,放疗后0-6个月组具有区分能力的脑区FA值均减低,主要位于双侧小脑,包括左侧小脑7b区及右侧小脑9区。放疗后6-12个月组与对照组分类识别率为83.9%。和对照组相比,放疗后6-12个月组具有区分能力的脑区FA值均减低,其主要位于左侧颞叶白质区及左侧小脑,包括左侧颞中回、左侧小脑10区及左侧小脑8区。放疗后>12个月组与对照组分类识别率为74.5%。和对照组相比,放疗后>12个月组具有区分能力的脑区FA值均减低,主要位于双侧颞叶白质区及左侧小脑,包括右侧颞上回颞极、左侧颞中回、左侧小脑10区、左侧小脑8区。对于全脑白质连接,放疗后0-6个月组和对照组:SVM分类器达到的分类识别率为 82.5%（SS=83.3%,SC=82.1%;置换检验,p<0.0001）;放疗后 6-12个月组和对照组:SVM分类器达到的分类识别率为78.4%（SS=76.7%,SC=79.1%;置换检验,p<0.0001）;放疗后>12个月组和对照组:SVM分类器达到的分类识别率为76.3%（SS=80%,SC=74.6%;置换检验,p<0.0001）。与对照组相比,放疗后各组的脑白质连接（一致性特征）均减低,三组特征并不全部匹配,但均主要分布于额叶-边缘网络、颞叶及小脑。结论:本研究利用DTI-TBSS以及机器学习方法评估鼻咽癌放疗后患者脑白质微观结构及全脑白质网络的改变情况,结果发现放疗后各组与对照组均可以互相区分开来,并能达到较高的识别率。证实了放射性脑损伤中最具疾病区分能力的白质区位于双侧颞叶及双侧小脑,并且它是一种全脑白质网络发生异常的疾病,放疗后各组最具疾病区分能力的一致性特征（白质连接）强度均减低,主要分布于额叶-边缘网络、颞叶及小脑。上述最具疾病区分能力的脑白质区域及脑白质连接模式或可作为一种生物学标志为放射性脑损伤的临床早期诊断与治疗提供帮助。

关键词： 不平衡数据集   分类算法   SMOTE AdaBoost   利润模型  

摘要： 随着移动互联网、分布式存储和并行处理等技术的发展,各行各业所积累的数据呈现爆炸式的增长,如何将数据挖掘技术应用于日常的生产制造和智慧化的运营已经成为当前的热点,其中,分类算法在数据挖掘中应用非常广泛。由于日常生产和学习所遇到的数据大多属于不平衡数据集,因此,针对不平衡数据集的分类算法研究及其应用在实际数据挖掘中具有重要的实用价值。本文针对不平衡数据集的分类算法进行研究,所做的卞要研究工作包括以下方面:首先,从分类算法入手,提出基于SMOTE的AdaBoost改进算法。该方法先对不平衡数据集用SMOTE算法处理,降低数据集的不平衡率,然后对处理过的数据集进行有放回采样操作,基于训练子集生成基分类器,并计算基分类器权值,最后,再次基于SMOTE算法更新样本权值,实现对AdaBoost算法的改进,提升算法性能。基于实际数据的实验验证了所提算法的有效性和较强的泛化能力。其次,研究了基于不平衡数据集分类算法的评估标准,依据不平衡数据集的特点,在传统评估指标的基础上,引入误分类成本和客户挽留成本,提出了利润函数模型。针对该评估模型进行了基于实际数据的实验,结果验证了所提模型的有效性。最后,从运营商实际应用的角度出发,针对客户流失数据和业务营销数据,采用改进的分类预测算法和利润函数模型进行数据挖掘和分析,给出了数据中潜在的客户流失关联信息,既验证了上述算法和评价指标的有效性,同时,又给企业客户管理提出了降低公司运营成本、提高运营效率的有效解决方案。

关键词： 强对流天气   临近预报   机器学习   数值模式数据   数据挖掘  

摘要： 目前，以四维变分同化技术为基础的大气再分析数值模式，已经可以以10-15分钟的高时间分辨率和1-3公里的高空间分辨率，对多普勒雷达等多种观测资料进行同化分析，可以实时反演出对流天气的三维动力和热力结构，包括三维风场、湿度、温度、压力等。本文利用这些实时再分析大气数据，使用数据挖掘和机器学习技术，研究强对流天气的预警方法。　　本文提出的强对流天气预警算法如下：首先，使用数据挖掘中的数据预处理方法对实时大气再分析数值模式的输出数据进行处理，整个处理过程包括四个步骤，一是数据的获取;二是数据清洗，也就是去除数据中的无效数据或坏点;三是数据归约，数据归约包括基于固定大小box处理的元组归约和基于特征选择的属性归约;四是数据变换，主要是对数据进行归一化处理。然后，对强对流天气的预警问题进行机器学习的形式化建模，将其转化为一个分类问题，并使用支持向量机作为分类器。针对再分析大气数据的特点，考虑到时间信息和空间信息对特定区域对流灾害天气的影响，本文构建了时间和空间特征。在时间信息上，将当前时刻与前一时刻的差值作为额外的特征。在空间信息上，不仅考虑指定位置内的特征值，还将其周围区域的特征值也纳入特征向量。试验结果表明，本文提出的方法可以有效预报强对流天气。与其它方法相比，本文提出的方法不需使用光流法计算运动矢量场，即可以预报出强对流天气的运动趋势，并且可以预报出对流的新生（CI），这是以往的方法不能做到的。

关键词： 股票市场系统性风险   新的K线数据   价格和交易量的关系   曲线拟合  

摘要： 股票市场的系统性风险作为金融系统的主要风险之一,长期受到人们的关注和研究,而目前我国的股票市场风险状况仍然不容乐观,影响股票市场的系统性风险依然存在。本文针对股票市场系统性风险做了三方面的工作。首先通过标准化原始数据、在计算出价格上升期间所需成交量后,对所需成交量以及价格进行拟合,得到系统性风险发生前交易量和价格的关系;其次,将标准化的数据以周、月为单位进行合并创造出新的具有统计意义的K线数据K1,并对K线数据K1进行拟合,得到早于原始数据价格见顶的K线数据K2;第三,本文又进一步根据K线数据K1和K2创造出12个特征,并使用SVR和Liner Regression方法对特征数据进行拟合,获得可以预测未来一年价格增长率的线性拟合函数。通过真实的股票数据验证表明,这三方面的工作都是有效的,且有助于帮助广大投资者了解股票市场的变化情况,本文的工作对于预测和防范股票市场的系统性风险也提供了一种可行的方法。

关键词： 机器学习   煤层气产量   主控因素   诊断   产量预测  

摘要： 煤层气现场数据具有数据量大,信息类型及种类多,包含许多冗余信息,缺失数据等特点,处理难度大。传统统计、对比等定性分析方法已经很难快速挖掘出有用信息,而基于机器学习的数据处理方法、数据建模算法却能高效、科学、精准的提取数据特征,挖掘数据价值。同时该方法也为油气行业中产量主控因素诊断及产量预测提供一种新思路。本文通过文献调研,结合现场数据,筛选出影响煤层气产量包含地质、钻完井、压裂和排采4方面47个影响因素,收集这些数据,应用机器学习数据预处理方法,将定性变量虚拟化,对缺失数据KNN插补,绘制散点矩阵图定性分析影响因素与产量关系,数据标准化消除量纲,主成分降维进行特征提取,将47个影响因素压缩为21个主成分因子。数据预处理完后应用K均值聚类将样本井聚为3类,根据每类井中稳产气量聚类中心数值大小,将这三类井定义为优等井,中等井和劣等井。对每一口井标注完成之后,将数据集80%用于训练模型,20%用于测试模型性能,应用KNN算法训练分类模型,将该模型应用于测试数据集中,准确度达到100%。至此构建完成煤层气产量主控因素诊断模型。分别应用RPROP神经网络,支持向量机和多元逐步回归模型建立稳产日产气量与21个主成分因子模型定量关系,将模型应用于测试数据集,结果表明:RPROP神经网络预测精度在85%以上,标准化后的平均绝对误差仅为0.04。从而优选该模型来构建煤层气稳产日产气量预测模型。应用所构建的煤层气产量主控因素诊断模型和煤层气稳产日产气量预测模型,对4口井进行诊断和预测,预测出4口井中有一口井为劣等井,通过对比该井和优等井特征参数差异,寻出造成该井低产的主控因素是见气动液面和降液幅度。从而为该井工程参数改进指明方向。

ISBN: (纸本)9787111569602

ISBN: (纸本)9787115452405

关键词： 机器学习   数据挖掘   推荐系统   用户建模  

摘要： 在传统的机器学习中,往往假设数据的分布是固定不变的。但是在许多现实应用场景中,比如推荐系统中,数据的分布往往会随着时间的变化而变化,即存在着“时序演进”的现象。使用传统方法无法考虑“时序演进”性质,往往会使得刻画的数据分布不精确,难以对未来的数据进行很好的预测。随着生产生活中可获取数据量的不断增大、数据环境越来越复杂,传统方法在处理时序演进问题上的局限性也越来越凸显。如何快速而有效地利用数据“时序演进”的性质来提高模型的性能,近年来得到了越来越多研究者的关注。本文试图针对在线购物这一复杂的数据场景,考虑数据中“时序演进”的性质,尝试通过特征处理、空间嵌入等不同角度将数据的动态性转换为静态状态来处理,从而一方面能够较好刻画“时序演进”的性质,另一方面能够降低构建模型的难度。主要取得了以下创新成果:第一,提出了一种基于时间窗口特征的时序演进推荐算法。该方法通过不同宽度的窗口来从不同粒度上捕捉用户与商品随时间演进的特征,然后利用集成学习方法来学习这些静态的特征,从而得到一个具有“时序演进”特性的推荐系统。在腾讯公司提供的真实线上推荐系统中的应用效果,表明了该方法相对传统的推荐方法在推荐精度上有较大的提高。第二,提出了一种基于用户阶段演进的用户建模方法。该方法基于用户的交互数据,构建了一个静态低维的用户流形空间,将不同用户在不同时期所处的阶段进行对齐。在这个空间中,较为稳定的阶段的演进模式更容易被刻画出来。基于阶段演进的规律,我们就可以更深刻地理解用户的行为,从而对用户未来的行为也能有更好的预测。在使用腾讯公司提供的真实在线购物网站的数据的实验中,引入用户流形的推荐系统的推荐精度得到了明显提高,并且大幅超越了许多基准方法。同时用户流形空间的可视化结果也展示了用户流形空间可以很好地刻画用户动态偏好变化的模式。

关键词： 无袖带血压预测   PPG   支持向量机   形态学滤波   特征选择   离群点去除   向量稀疏  

摘要： 近年来,心血管疾病已经成为人类健康的“头号杀手”,而血压作为心血管健康程度的重要指标,如果能够被实时监测,将大大降低心血管疾病的发病率。与此同时,由于机器学习方法强大的学习能力,它也被越来越多地应用在血压预测的研究之中。因此,本文开发出一套基于机器学习方法的无袖带血压监测系统。该系统可以采集人体手指末梢光电容积脉搏波(Photoplethysmography,PPG)信号,而后从PPG信号中提取特征并且基于最小二乘支持向量机模型预测人体收缩压(Systolic Blood Pressure,SBP)和舒张压(Diastolic Blood Pressure,DBP)。本文充分考虑可穿戴血压测量系统资源受限、便携性要求高的特点,对PPG信号形态学去噪、特征提取、特征选择、特征归一化、离群点分析和支持向量稀疏化算法都做了相应改进,而后基于昆士兰大学生命科学开源数据库,我们验证了上述算法的有效性,并且建立了相应无袖带血压预测离线模型。在TMDX5535eZdsp数字信号处理器(Digital Signal Processor,DSP)平台之上,我们完成了一套基于两个特征的无袖带血压预测系统。该系统由PPG传感器,DSP(主要完成采样、滤波、特征提取和支持向量机决策方程功能)和PC端图形显示界面App组成。最后基于5名志愿者的测量数据,该平台取得了可以接受的血压预测精度:8.42±10.30 mmHg(SBP)和6.03±7.64 mmHg(DBP),因此该平台可用于可穿戴血压监测模型的进一步开发。