关键词： 先验知识   机器学习   软测量   水力旋流器   溢流粒度  

摘要： 水力旋流器是一种分离混合物的设备，在化工、石油、选矿等领域应用十分广泛。经磨矿筛选后的粗颗粒在水力旋流器中受离心力以及流体曳力作用发生离心沉降，细颗粒在内部旋流离心作用下由上口溢流管排出，粗颗粒甩向桶壁，沿桶壁下滑，从而实现颗粒的分离。　　溢流粒度分布指的是溢流产物中某特定范围内的颗粒占颗粒总量的比例，反映了产物粒度分布，是衡量水力旋流器分离能力的重要指标。但水力旋流器物理过程复杂，溢流粒度分布的检测需要专门实验确定，缺少精确的测量仪器，导致溢流粒度分布的检测非常困难，失效很差，这直接影响了后级浮选工艺的生产效率和产品质量，因此实时、准确地测量溢流产物粒度分布，并且结合生产实际对水力旋流器合理控制具有重要意义。　　本文结合实际条件，系统深入地研究了水力旋流器溢流粒度分布的检测以及控制问题，拟解决问题如下:　　1.针对水力旋流器溢流粒度无法实时准确检测问题，提出了基于Adaboost结合SVM机器学习方法的测量模型。通过SVM方法训练难测量与易测量之间的函数关系，建立以旋流器工作状态为输入，溢流粒度分布为输出的机器学习模型，并通过Adaboost强化模型的泛化能力，使测量模型准确易用。　　2.针对旋流器溢流粒度控制问题，提出了一种基于Adaboost结合SVM测量方式的水力旋流器控制策略。该策略基于溢流粒度的学习模型，充分利用生产过程的数据，通过反向优化计算，得到水力旋流器入口的输入条件，实现水力旋流器的控制，保证溢流粒度分布稳定在设定区间内。通过搭建仿真平台，改编入口条件，调节入口条件来进行整体控制。合理简化模型，将水力旋流器控制策略应用在实际生产情况。

关键词： 生成对抗网络   人脸活体检测   提取特征   半监督学习  

摘要： 生物验证作为一种重要的身份验证技术,越来越广泛的应用在隐私和安全领域。利用人脸的生物特征进行身份识别,在学术界和工业界得到了广泛的关注。然而,由于传统的人脸识别技术无法有效区分真伪人脸,图像欺骗的问题带来了许多安全隐患。为了克服真伪人脸的图像识别问题,本文提出了三种人脸活体检测技术研究方法。第一种方法基于传统的特征提取与机器学习,融合静态Gabor小波特征和动态LBP特征,并运用支持向量机（SVM）对其进行分类。然而传统方法一般只能提取较为浅层的特征,不能表达深层语义信息,为了解决这种问题,本文继而提出第二种基于生成对抗网络（GAN）的人脸活体检测方法。该方法基于深度卷积生成对抗网络（DCGAN）的结构模型,利用无监督学习进行样本扩充（即数据增强）。所提出的模型经训练生成的对于分类任务较为困难的对抗样本,以此促进网络学习,提升分类准确率。该方法可以用于任意的GAN模型,通过在训练过程中调节判别模型的输出值,生成介于两类之间的样本（即对抗样本）,用于扩充训练集。通过SVM进行分类,实验验证了数据增强对于准确率的提升,同时测试了判别模型卷积层特征对于分类的有效性。以上两种方法都采用监督学习的方法,但是监督学习的训练需要大量带有标签的数据样本,而标签的标定通常耗费大量人力物力,不仅如此,对于一些很难区分的真伪人脸样本,标签信息难以确定。针对以上问题,第三种方法提出基于图像修复模型进行半监督学习的人脸活体检测技术,在图像修复的训练过程中不断针对极少的带标签的样本进行分类学习。所用到的图像修复模型包括生成模型和判别模型,其中判别模型又包括局部判别模型和全局判别模型。具体地,生成模型主要用于修复缺失的图像,局部判别模型用来判别掩码图像的局部一致性,全局判别器用来判别完整图像的全局一致性并对带标签样本进行分类。整个模型既能修复图像,又实现了半监督学习任务。实验通过对比已有的算法,证明了基于图像修复的半监督学习对于人脸活体检测任务的有效性和准确性。

关键词： Al-Zn-Mg-Cu合金   应力腐蚀   成分工艺设计   全局优化算法   合金稀土相  

摘要： 近年来,随着“节能减排”理念成为大众广泛关注的问题,高速列车“轻量化”的迫切需求也进一步提升。7XXX系（Al-Zn-Mg-Cu系）铝合金因其低密度、高强韧性和优异的焊接性而广泛应用于高速列车关键部件如轴箱体等。但是其服役过程中却存在着应力腐蚀开裂（SCC）这个巨大隐患。本文基于全局优化算法（EGO）和Kriging模型,自主设计合金学习循环策略,以电导率为应力腐蚀的初级目标,设计出性能较佳的铝合金成分,并通过时效制度进一步提升其力学和抗应力腐蚀性能。采用光学显微镜（OM）、扫描电子显微镜（SEM）、能谱分析（EDS）和X射线衍射（XRD）等工具分析新型EGO合金的应力腐蚀断口形貌、微观组织等,进一步探究其抗应力腐蚀性能优异的原因,并分析稀土元素Y、Ce对合金抗应力腐蚀性能的影响。主要内容如下:（1）采用自主设计的合金循环策略,以电导率为初级目标,迭代计算四次,设计出电导率较高的铝合金,其合金成分为Al-6.05Zn-1.46Mg-1.32Cu-0.13Zr-0.02Ti-0.50Y-0.23Ce,电导率的值为42.152%IACS。（2）单级时效（T6）、双级时效（T74）和回归再时效（RRA）制度下,新型EGO合金的抗拉强度分别为505MPa、460MPa和503MPa,屈服强度分别为428MPa、365MPa和432MPa,合金的耐蚀性依次为T74>RRA>T6;并且构建合金的力学和耐腐蚀性能双目标,采用支持向量机回归（SVM）优化RRA的回归时间和回归温度,计算出合金综合性能最佳的RRA时效参数为:120℃-24h+190℃-40min+120℃-24h。此时,合金的强度为502MPa,电导率为41.839%IACS。（3）EGO合金与传统的7N01合金相比具有更好的抗应力腐蚀性能,在本文实验条件下,通过慢应变拉伸试验发现:不论是单级时效还是双级时效下,EGO合金的ISCC值都低于7N01铝合金;两种铝合金单级时效下ISCC值分别为6.82%和23.55%,双级时效下ISCC值分别为1.15%和14.31%。（4）在7XXX系合金中添加稀土元素Y和Ce会形成稀土相Al8Cu4（Y,Ce）和稀土四边形相Al20Ti2（Y,Ce）,它能改善合金的抗应力腐蚀开裂性能（SCC）。改善原因如下:减少晶界η（MgZn2）分布,从而抑制连续的阳极腐蚀通道;同时能够形成稀土氧化物薄膜,有助于防止氢脆;并且可以生成致密的含Ce的氧化物和氯化物来抵抗点蚀损伤。

关键词： 轴系设备   故障诊断   多传感器融合   数据预处理   机器学习   神经网络   循环双谱  

摘要： 随着生产发展和科学技术的现代化,使得现代机械设备的结构愈加复杂,各种各样的功能也愈发全面,机械设备自动化的程度也在不断的提高,给经济发展提供了重要贡献。而轴系设备是其中重要的组成结构。由于许多因素的影响,轴系设备具有其使用寿命,且容易发生故障,可能导致降低其预期功效,停止运转等,甚至造成更严重的灾难性事故。及时发现故障,识别故障类型,不仅有助于延长其使用寿命,也能够有效的避免危险事故的发生。因此,轴系设备故障诊断方法的研究是十分重要的。近年来,随着机器学习算法的飞速发展,因其自动化程度高,速度快等优势,被广泛的应用于各类设备的故障诊断中。因此,本文针对基于机器学习的轴系设备故障诊断方法展开研究,主要包括三大步骤:数据采集,数据预处理,分类器训练与分类。即,采用传感器对设备状态进行监测,对采集到的数据进行预处理以提取特征信息,基于特征信息设计模态分类器,对设备当前运行模态进行诊断。仿真数据由ZHS-2型柔性转子试验台得到。创新性工作主要体现在数据预处理阶段和分类器训练阶段。主要包括如下工作:1.为得到机器学习训练和测试样本,则需要对原始时域数据进行分割。对于轴系设备而言,以单个旋转周期为分割标准时,样本内蕴含的特征不足;以较多倍周期进行分割时,样本包含的数据量较大;可能影响机器学习分类器的训练和测试效率。针对该问题,本文结合信息融合思想,提出了三种基于非固有周期的数据融合预处理方法:折段加权融合预处理方法、折段合并融合预处理方法,直接融合预处理方法,以对多倍周期分割处理后的数据进一步深层预处理。通过仿真实验验证了上述方法的有效性和可行性。2.针对传统机器学习分类器参数无法更新的问题和无法对未经训练的未知故障数据分类的问题,提出了基于卡尔曼滤波的核序贯极限学习机的轴系设备故障诊断方法。它可以在后续测试过程中依据测试数据不断更新参数,以达到跟踪故障的目的。另提出构建基于卡尔曼滤波的多序贯核极限学习机网络,通过设置阈值以判定未知运行模式数据是否经过训练。并为未经训练的数据自动构建新的分类器以对其分类,用于对未知故障的检测与诊断。通过仿真分析并与其它方法进行对比,验证了所提出方法的有效性。3.针对故障发生早期易受噪声淹没的问题,提出将多传感器融合与循环双谱切片分析相结合的故障诊断方法。利用多传感器融合以增强故障发生早期所采集数据内蕴含的主要特征,对融合后的数据进行循环双谱估计。通过分析循环双谱在频谱峰值处频率的切片,提取处故障特征频率。将该频率与故障类型一一对应,利用这样的映射关系即可快速得到故障类型。在故障发生早期利用较少的数据即可实现早期故障的故障诊断。并通过仿真分析对其进行验证。

摘要： Optimization Algorithms for Neural Networks (NNs) have become a crucial and fundamental key in Artificial Intelligence. Inside Neural Networks architectures, adapting learning rates via an optimizer is a fundamental step in training neural networks. Correspondingly, choosing any optimizer can differentiate the NNs implementations performance. The Adaptive Moment Estimation method (ADAM) is one of the most common and powerful used algorithms in training Neural Networks. However, the ADAM method has shown substandard convergence in certain cases due to fluctuating and unstable learning rates. In this thesis, we integrate two state-of-the-art algorithms: the Adaptive Moment Estimation method and a normalized Momentum. We apply the normalized Momentum of the previous gradients into the current ADAM method update to preserve and stabilize the direction of the learning rate. In this work, we test our proposed method, ADAM Plus, on the MNIST digit recognition database, CIFAR10 database, Bayesian Neural Network and U-net models. The empirical results show our proposed method has better convergence and accuracy performance. ADAM Plus demonstrates improved performance in multiple convolution neural networks applications compared to various adaptive optimization algorithms.

关键词： 不平衡数据   分类算法   信贷违约  

摘要： 由于传感器技术、通信技术、数据存储技术等的飞速发展,硬件软件的同步推进,各领域产生并存储了大量数据,数据的有效利用成为了研究与实践的热点,数据挖掘可以提取出数据中蕴含的重要信息,其中,分类是应用较为广泛的一种关键算法。但是,与理想情况背道而驰的是,现实中的数据往往存在着类别不平衡的问题,即属于某一类别的样本数量显著小于其他类别样本的数量且少数类的误分代价往往高于多数类,这挑战了传统分类技术的既定假设——各类别样本数量相当且误分代价相近,并直接导致了传统的分类技术在对不平衡数据进行处理时存在分类效果不佳,关键类别——少数类样本分类错误率过高的问题。因此,针对不平衡数据提出相应的处理办法有重大的理论和现实意义。本文针对不平衡数据集提出基于混合模型的处理办法,从数据整体布局入手,能够较好克服其他重采样方法所存在的模糊边界、合成样本质量不高等问题。本文可能的创新点有:第一,应用狄利克雷过程混合模型模拟多数类样本分布,将重采样算法思想与聚类结果相结合,在不破坏数据结构的前提下,根据高斯混合分布参数估计结果,对多数类样本进行欠采样处理,对少数类样本进行过采样处理,提出基于狄利克雷过程混合模型的混合采样算法。第二,将重采样思想与集成学习思想进行融合,提出基于混合模型的集成算法,首先基于狄利克雷过程混合模型拟合多数类样本的结构与分布,并且在不破坏数据结构的前提下对多数类样本进行欠采样,应用随机子空间思想与装袋算法思想,以期提升非平衡数据的分类效果。第三,将所述不平衡数据处理办法应用于信贷违约预测中,并结合信贷的业务特点,提出将经济学理论与统计学思想结合,在进行数据挖掘的同时,合理利用经济数据以期有效提高模型效率,据此提出启发式思考。数据分类过程的模拟结果表明,狄利克雷过程混合模型能够自适应地对数据进行聚类,有强大的描述数据分布的能力。算法性能测试的对比实验结果表明,改进算法有效地提升了对少数类样本的识别能力,并且在信贷数据中有较好的表现。

关键词： 恒星   物理参数   光谱数据   机器学习  

摘要： 我们正在进入一个新的天文学时代，数量巨大的恒星光谱数据集为天文学家解决天文基本问题提供了重要的数据支撑。光谱中包含众多恒星信息，例如恒星光谱大气参数和化学丰度，它们是约束银河系形成和演化的重要信息。准确且快速地测量恒星光谱参数是各大巡天分析光谱的必要手段，而随着计算机技术的发展，机器学习、数据驱动是处理海量光谱数据十分合适的手段。　　我们通过机器学习等技术手段对我国重大科学装置LAMOST的恒星光谱数据集作出分析，估计其重要的物理参数。例如，恒星大气参数（有效温度、表面重力和金属丰度）和化学元素丰度、视向速度等。具体内容按照处理对象分别概述如下:　　1.对LAMOST DR5低分辨恒星光谱的光谱分析;我们通过神经网络算法构建PHOENIX理论光谱库网格生成模型(GSN)，对于给定LAMOST DR5恒星待测光谱，在参数空间采用蒙特卡洛(MC)采样并使用GSN生成对应的理论光谱，使用贝叶斯理论得到待测光谱的恒星参数的后验分布，进而得到其参数的点估计和误差。将该方法运用到信噪比S/N大于10的LAMOST DR5恒星光谱，借助并行计算平台SPARK，我们最终得到530多万恒星光谱参数。通过和外部参考集APOGEE、GCS、PASTEL、星震学样本对比验证，我们结果呈现很好的一致性。对于信噪比高于50的光谱，Teff，log g、[Fe/H]和[α/Fe]的精度分别为80K、0.14dex、0.07dex和0.17dex。　　2.对LAMOST中分辨光谱视向速度的分析;视向速度(RV)是一个基本物理量，可以通过光谱的多普勒移动来计算。RV的精度依赖于我们所使用的光谱的分辨率和波长定标准确性。我们借助理论模板使用交叉相关方法计算了LAMOST MRS1，594，956条光谱的视向速度。使用高分辨观测的RV标准星分别对LAMOST中分辨红蓝光谱仪进行了视向速度零点改正。改正后的RV准确率为0.0277km s-1。通过重复观测样本评估了RV的精度，分别在S/N水平10、20、50下RV精度可以达到1.36km s-1、1.08km s-1、0.91km s-1。　　3.对LAMOST中分辨光谱恒星参数和元素丰度估计;我们通过深度学习的方法估计了LAMOST DR7MRS恒星大气参数（有效温度和表面重力）和13种化学元素的丰度。我们根据LAMOST中分辨光谱的特点专门构建了特殊结构的神经网络SPCANet来映射光谱流量到恒星参数和化学元素之间的关系。对于信噪比大于10的光谱，有效温度和表面重力精度为119K和0.17dex，13种元素中[C/H]、[N/H]、[O/H]、[Mg/H]、[Al/H]、[Si/H]、[S/H]、[Ca/H]、[Ti/H]、[Cr/H]、[Fe/H]和[Ni/H]精度为0.06～0.12dex，另外[Cu/H]的精度为0.19dex。同样我们也引入外部参考集APOGEE、RAVE、GALAH和前人文献数据集合进行了对比分析，发现其一致性很好。

关键词： Lending Club   Random Forest   XGBoost   LightGBM   Logistic Regression   SHapley Additive exPlanation   网格搜索   不平衡数据处理   模型融合  

摘要： 近年来随着网络时代的迅速发展,互联网金融产品迅猛发展起来,大型的借贷平台也逐步兴起,Lending Club是其中一家发展迅速、运作较好的大型P2P（Peer to Peer）交易平台,由于P2P平台交易门槛低、流程简单、投资回报率高等优势,迅速吸引了大批量客户进入市场,从中也衍生出了一些违规贷款和欺诈事件,所以本文以LendingClub公司2018年10月1日到2018年12月31日的批贷数据进行建模分析,通过集成分类预测的方法进行风险评估,提高P2P平台关于违约率较高客户的识别能力,从而为该平台及公司提供科学决策依据。本文主要运用机器学习算法进行评估预测,通过Synthetic Minority Oversam-pling Technique（SMOTE）方法对不平衡数据进行过采样,对特征进行衍生及筛选,并在此基础上使用网格搜索算法对Logistic Regression（LR）,Random Forest（RF）,eXtreme Gradient Boosting（XGBoost）,Light Gradient Boosting Machine（LightGBM）等模型进行参数优化,并进行模型比较。最后对分类效果较好的模型进行融合,融合结果通过Logistic Regression,多数投票和概率平均三种方式进行输出,比较发现融合后的模型可以对客户进行更准确地分类。同时采用SHapley Additive exPlana-tion（SHAP）可解释模型从局部和全局的角度对最优模型进行可解释分析,并找出了数据中使得客户违约的重要特征。因此集成模型有更高的准确度对客户的违约行为进行识别。

关键词： Concrete   Compressive strength   Machine learning   Prediction   Statistical modeling  

摘要： This study evaluates the efficacy of machine learning (ML) methods to predict the compressive strength of field-placed concrete. We employ both field- and laboratory-obtained data to train and test ML models of increasing complexity to determine the best-performing model specific to field-placed concrete. The ability of ML models trained on laboratory data to predict the compressive strength of field-placed concrete is evaluated and compared to those models trained exclusively on field-acquired data. Results substantiate that the random forest ML model trained on field-acquired data exhibits the best performance for predicting the compressive strength of field-placed concrete;the RMSE, MAE, and R-2 values were 730 psi, 530 psi, and 0.51, respectively. We also show that hybridization of field- and laboratory-acquired data for training ML models is a promising method for reducing common over-prediction issues encountered by laboratory-trained models that are used in isolation to predict the compressive strength of field-placed concrete. (C) 2019 Elsevier Ltd. All rights reserved.

关键词： 个人信用评价体系   数据脱敏   机器学习   BP神经网络  

摘要： 在大数据和互联网技术迅猛发展的背景下,金融大数据平台公司通过自己的平台收集和整理海量数据,完善信用评价维度,运用机器学习方法对个人信用水平进行全面科学评价,因而,商业银行传统个人信用评价面临巨大挑战。从现有个人信用评价体系和方法局限出发,探讨基于机器学习方法的个人信用评价研究的必要性,完善个人信用评价维度和评价体系,明确数据采集的渠道,运用动态脱敏技术进行数据脱敏、LOF检验方法检验数据异常值和随机森林方法补充数据缺失值。接着,运用梯度提升决策树方法筛选重要性指标,通过基于逻辑回归的评分卡模型对筛选后的指标进行处理,输出个人信用评价分。最后,通过BP神经网络对模型进行检验,运用该模型对个人信用水平进行预测。研究表明基于机器学习能够进一步提高个人信用评价的准确性,为商业银行个人信用评价提供科学的依据和参考。