关键词： 近红外光谱   拉曼光谱   在线测量   聚合物挤出   机器学习  

摘要： 在聚合物加工领域,在线光谱测量系统已进入应用于挤出加工中聚合物测量与表征的实验阶段,然而在线光谱受到挤出环境高温高压等因素的影响,信噪比大,数据波动明显,传统的数据处理方法难以对在线光谱数据进行有效处理,无法满足测量表征准确性和稳定性需求,于是本文利用机器学习方法对聚合物在线光谱数据进行分析以实现测量准确性与稳定性的提高,这对未来光谱测量技术应用于实际加工过程的基础奠定以及应用拓宽具有重要意义。本文以通用塑料PP与PS为研究对象,通过自主开发的聚合物在线光谱测量系统,对挤出过程中聚合物熔体的在线光谱数据进行在线测量,以实际生产中的不同牌号PS的聚类分析与分类识别、PP/PS共混物的组分含量准确稳定测量以及PP/PS共混物组分含量离线测量模型的在线迁移此三个场景的应用来验证机器学习方法的应用价值。研究结果表明:1)相较于拉曼光谱,近红外光谱的信号强度大,信噪比高,数据可分性更高,运用人工神经网络和支持向量机对不同牌号PS的近红外光谱进行分类识别,其中最优的人工神经网络模型平均预测正确率为94.7%,支持向量机模型的预测准确率为98.4%,正确率均较高,实现了五种不同牌号PS的在线分类识别;2)对于基于光谱的PP/PS共混物组分含量测量模型,无论是拉曼光谱还是近红外光谱,机器学习模型均优于传统的拟合回归模型,对于机器学习模型,利用数据融合的方法能够进一步提升模型准确率,此外,中级融合还能够提升测量稳定性;3)基于离线采集的PP/PS共混物的近红外光谱数据,利用向光谱数据内添加一定信噪比强度的0均值高斯白噪声的数据增强方法,能够有效扩充数据集规模达到机器学习建模的需求,之后利用Two-stage Tr Ada Boost迁移学习算法随机加入少量在线光谱数据辅助模型训练,相较于未使用迁移学习算法的模型,其测量准确度大幅度提高,达到了实际应用的要求。

关键词： 光散射   总悬浮颗粒物   机器学习   吸湿效应  

摘要： 与重量法相比,基于光散射法的总悬浮颗粒物(TSP)浓度监测仪器具有响应速度快、体积小、成本低等优点。然而,散射强度与TSP质量浓度之间的关系随环境条件和颗粒物性质的变化是非线性的,难以进行人工修正。本研究应用四种机器学习模型(支持向量机SVM、随机森林RF、梯度提升树GBRT和人工神经网路ANN)来校正光散射法仪器TSP浓度测量值。利用上海市城区内17个采样点1141个小时的滤膜称重法和光散射法测量数据,以及附近国控点的污染物浓度数据,进行模型训练和验证。所有四个机器学习模型将校正回归线的斜率从0.4增加到0.9-1.1并将相关系数从0.1增加到0.8-0.9,大大提高了两种方法之间的线性关系。通过机器学习模型的可解释工具,随机森林重要性分析和部分依赖图表明,当PM浓度处在0-80μg/m范围内时,光散射仪测得的TSP浓度持续升高,而在PM10和TSP浓度值大于60μg/m和200μg/m之后,仪器测量值趋于平稳。光散射法测定的TSP浓度在相对湿度超过70%后呈指数增长,与以往对细颗粒物吸湿增长的研究结果一致。综上表明,机器学习模型能有效地校正TSP浓度光散射法测量值之间的相关性。部分依赖图提供了对导致光散射法测量值偏离TSP浓度的主要因素(例如吸湿性增长)的科学见解。

关键词： 钢筋混凝土深梁   抗剪强度   尺寸效应   随机森林回归法   XGBoost法   LightGBM法  

摘要： 许多学者通过实验与理论研究，对钢筋混凝土深梁抗剪问题及尺寸效应进行研究，建立了多种钢筋混凝土深梁抗剪承载力分析模型，但是钢筋混凝土深梁抗剪具有受力情况复杂，影响因素众多的特点，目前各国规范采用的理论模型还不统一。　　本文通过对实验数据进行机器学习建模，对钢筋混凝土深梁抗剪承载力与尺寸效应进行分析，主要工作包含以下三个方面:　　(1)搜集了国内外580组钢筋混凝土深梁抗剪性能的实验记录，借助随机森林、XGBoost和LightGBM三种分析方法，针对配置纵向/横向腹筋的钢筋混凝土深梁抗剪强度建立了回归预测模型。　　(2)通过组合变换，构造了纵向钢筋指数、水平腹筋指数、竖向腹筋指数等代表性特征参数，对深梁抗剪切强度进行预测与分析。已有实验结果证明了3种预测模型的准确性，其中LightGBM模型取得的效果最佳。　　(3)借助LightGBM模型对深梁的抗剪强度进行系统分析，分析了剪跨比、水平腹筋、竖向腹筋等对深梁抗剪强度及其尺寸效应的影响规律，讨论了深梁抗剪强度的尺寸效应规律以及相关参数的影响机制。

关键词： 人脸识别   人脸特征   卷积神经网络   安卓  

摘要： 随着移动互联网的迅速发展以及智能移动终端的普及,越来越多的用户从传统的PC端上网逐渐转换到基于移动智能终端的移动互联网上。各种应用软件在颠覆用户生活习惯的同时,涉及到了用户的个人隐私,不可避免的带来了移动信息安全泄露的威胁。因此,基于移动终端的信息安全也成为了当下的热门研究方向。人脸识别技术主要是基于人的面部特征信息来进行身份识别,综合了人工智能、机器学习、图像处理等众多技术,其识别准确率也逐渐提高。尤其是近几年人工智能技术的发展,更是将人脸识别技术推向了加速发展的阶段,目前人脸识别与指纹识别已经成为移动端主要的身份认证。但是由于移动终端的计算与存储资源有限,导致机器学习相关技术难以在移动端使用。本文主要研究人脸识别机器学习方法在移动端的实现,采用PC端训练模型与移动端界面开发相分离的机制。现如今,深度学习技术在人脸识别领域有广泛的应用,但是其模型参数规模大且算法复杂度高,难以在移动端进行部署使用。本文先设计了人脸预处理的算法,通过人脸预处理来过滤图像中的背景区域,再将图片通过卷积神经网络来提取人脸特征,进行人脸识别的训练,最后在移动端进行界面开发,完成实时的人脸识别功能。在人脸预处理方面,本文采用了多任务学习的方法,在模型构建上设计了三个卷积神经网络级联的方式。将图像是否有人脸、人脸区域检测、人脸关键点定位三个任务相结合,在训练过程中同时优化三个损失函数。在网络模型的构建上,使用了三个卷积神经网络级联的方式,通过多个网络筛选图像中的人脸区域,提高了识别的准确率。通过该方法能够将图像中的背景过滤,最终只留下人脸区域以及较少的背景,能够提高后续人脸识别的准确率。本文通过设计轻量级的卷积神经网络来提取图像特征,给出了深度卷积、分组卷积、通道重排三种算法来降低参数规模以及计算复杂度。本文设计了Triplet loss来作为损失函数优化网络,训练得到人脸识别的模型。通过在测试集上的验证,该网络在准确率以及检测效率上有较好的结果。最后在移动端对卷积神经网络的模型进行了部署,采用模型训练与实时检测分离的方法,在PC端进行模型训练,移动端进行实时的人脸识别。整个移动端开发可以分为三个模块:图像的获取与预处理、模型的部署与前向传输、数据的存储与检索。移动端通过对摄像头的预览帧实时数据进行提取,通过卷积神经网络提取人脸特征,最终完成人脸识别的任务。整个系统能够对人脸进行实时检测、识别,完成实时的人脸识别功能。

关键词： 员工绩效评价   机器学习   决策树  

摘要： 随着社会主义市场经济的不断快速发展,企业之间的人力资源竞争越来越激烈,如何在激烈的市场中迅速取得竞争的优势已经成为了现代大型商业企业所必须考虑的一个关键问题。员工作为人力资源企业的生存和可持续发展的一个关键推动前进的力量,人力资源的管理已经成为了企业重要的人力资源发展方向和战略之一,是人力资源企业进一步取得其核心市场竞争力的基础和关键所在,在整个的人力资源企业管理的过程中,员工的绩效评价已经成为了人力资源企业管理的重要基础和前提,企业可持续发展的重要基石,是企业约束优秀员工、激励优秀员工促进企业组织提高绩效的重要手段和管理工具。现代企业人力资源竞争的成功关键在于对人才的培养和竞争,管理者和员工已经逐渐开始意识到员工的绩效评价对于员工和企业的成功起着至关重要的意义和作用。本文首先对员工工作绩效评价与机器学习理论进行了阐述,并归纳和整理了前人关于员工绩效评价指标的理论,从而构建了A公司软件工程师绩效评价的指标体系,其次通过机器学习技术中的决策树算法构建了软件工程师绩效评价模型,最后根据本文所构建的绩效评价体系及模型对A公司的部分软件工程师的绩效进行了试评价。根据试评价及分析和验证,结果显示本文提出的绩效评价体系及模型具有较好的适用性与科学性,可以客观、公正、公平的对A公司的软件工程师进行绩效评价。本文建立的绩效评价模型表明,在社会经济迅速发展的今天,在各种机器学习算法和理论逐渐展开研究和利用之际,通过跨学科的研究和综合应用,确实能提升企业日常管理工作的效率,并体现公平、公正性。

关键词： 机器学习   网络安全   恶意软件检测   深度学习   深度强化学习  

摘要： 随着信息技术的发展,计算机网络已经渗透到关系国计民生的各个行业,网络安全变得越来越重要。恶意软件检测是网络安全中的重要研究领域,可以保护计算机系统免受病毒、木马等恶意软件的破坏。基于GBDT机器学习方法和深度强化学习方法实现了一个高可用、具备抗攻击能力的静态PE恶意软件检测引擎:利用GBDT和深度学习方法实现了两类恶意软件检测模型;利用强化学习算法训练得到了对抗样本生成策略;通过对抗样本重训练的方法增强了恶意软件检测模型的抗攻击能力。主要研究工作如下:研究并实现了一个基于GBDT（Gradient Boosting Decision Tree,梯度提升迭代决策树）机器学习方法的恶意软件检测器。本文以Ember数据集为基础,比较了以GBDT为代表的传统机器学习技术和以DFN（Deep Feedforward Network,深度前馈网络）为代表的深度学习方法在Ember数据集上的训练效果,最终选取了GBDT模型作为最优模型,该模型在FPR为0.1%时TPR为88%。研究了针对恶意软件检测模型的对抗样本生成方法。在Gym-Malware的基础上设计了一个强化学习训练环境Gym-Malware-Mini,采用DQN（Deep Q-Learning）和A2C（Advantage Actor Critic）两种强化学习算法进行训练。DQN算法学到了最优的对抗样本生成策略,生成对抗样本的成功率达到83%。利用对抗样本提升了恶意软件检测器的抗攻击能力。将对抗样本加入到训练集中,重新训练恶意软件检测模型,恶意软件检测模型可以更好地检测出对抗样本,重新训练后对抗样本的检测率提升至95%。研究涉及传统机器学习方法、深度学习方法、深度强化学习方法等前沿技术,实现的恶意软件检测器效果良好,具有一定的实用价值,为后续进一步研究打下了基础。

关键词： 弥漫大B细胞淋巴瘤   类别不平衡数据   机器学习   概率校准  

摘要： 目的:弥漫性大B细胞淋巴瘤(DLBCL)是最常见的非霍奇金淋巴瘤,目前主要使用R-CHOP作为标准化疗方案,但仍有30%到50%的患者因耐药复发。患者复发后因缺乏有效的治疗方案生存率较低,能准确预测患者的复发风险并提供有效的巩固化疗方案已成为临床医生亟待解决的重要问题。其中疾病成因错综复杂、数据中的类别不平衡问题均导致现有模型分类性能较弱、适用患者有限等问题,故本研究旨在使用机器学习方法构建准确率较高、适用性较强的DLBCL患者复发风险预测模型,为临床治疗方案制定提供参考。方法:为提升模型准确率,联合9种类别平衡方法、2种机器学习方法、logistic回归方法与4种集成学习方法形成共48种建模方案。为提升模型适用性,首先使用以上方案分别12个存在类别不平衡问题的公共数据库构建分类与概率预测模型,对后者采用Platt scaling进行概率校准;其次评价模型性能并绘制随着数据类别不平衡率变化建模方案性能变化图谱;随后应用图谱为经变量筛选后的DLBCL患者达到完全缓解后的复发数据库挑选5套备选建模方案建模;最后选取其中模型性能评价指标最高者作为患者两年、三年与五年内复发风险分类与概率预测模型。结果:(1)根据模拟研究中对联合集成学习(Adaboost同型集成,随机森林,平均投票和Stacking异型集成等四种方法)、重采样(SMOTE,RACOG,DBSM和FCMSMT等四种方法)和代价敏感等三大类共9种类别平衡方法、C5.0决策树与支持向量机等两种机器学习方法、传统logistic回归方法与4种集成学习方法形成共48种建模方案绘制的图谱,其中使用未平衡数据、使用SMOTE采样数据、使用RACOG采样数据、添加代价敏感矩阵的Stacking集成模型与使用RACOG采样数据构建的随机森林模型等5个方案在所有建模方案性能排序前五。(2)使用logistic、用于变量筛选的随机森林(VSURF)与LASSO等三种变量筛选方法对患者两年、三年及五年内复发数据进行变量筛选后,疾病等级、是否患乙型肝炎(HBV)、Ki-67、是否生发中心来源淋巴瘤(GCB)、上呼吸道感染等5个变量是9个数据库的共同变量,是患者复发的独立危险因素。(3)使用未平衡数据构建的Stacking异型集成模型在DLBCL患者两年内(分类模型中准确率=0.9129,灵敏度=0.9073,F值=0.9132,AUC=0.9129,G-means=0.9129;概率模型中AUC=0.9710,RMSE=0.2798,MXE=0.2796,Cal mean=0.0112,BS1=0.0817,BS0=0.0756,BSall=0.0783)、三年内(分类模型中准确率=0.9132,灵敏度=0.8684,F值=0.9086,AUC=0.9132,G-means=0.9115;概率模型中AUC=0.9578,RMSE=0.2651,MXE=0.2512,Cal mean=0.0227,BS1=0.0992,BS0=0.0418,BSall=0.0703)与五年内(分类模型中准确率=0.9134,灵敏度=0.8762,F值=0.9098,AUC=0.9134,G-means=0.9125;概率模型中AUC=0.9597,RMSE=0.2627,MXE=0.2524,Cal mean=0.0234,BS1=0.0951,BS0=0.0413,BSall=0.0690)的复发风险预测模型中均最优。结论:(1)使用VSURF进行变量筛选后,构建的风险预测模型性能较优。(2)疾病等级、HBV、Ki-67、GCB与上呼吸道感染等5个变量是DLBCL患者的两年、三年与五年内复发模型的共同变量。(3)根据建模方案图谱选择的5种方案中,使用未平衡数据构建的Stacking异型集成模型构建DLBCL患者的两年、三年与五年内复发风险预测模型。

关键词： 热电材料   SrTiO3   (SrO)m(SrTiO3)n   数据共享   机器学习  

摘要： 热电材料研究发展到今天,寻找热电性能优异的n型氧化物热电材料是当前的主要目标,在传统的材料研究方法中,通过实验和模拟所产生的数据量为新的材料研究范式奠定了基础,这些实验和模拟所产生的“大数据”为数据驱动技术在该领域的应用提供了前所未有的机遇。本文采用Pymatgen材料计算程序包获取到高通量材料计算和数据共享平台Materials Project中和材料性能有关的各项数据。在考虑了材料数据的结构差异、原子数量差异之后,在保证数据的特征值维度一致的情况下,从OQMD数据库中获取到一组合适的材料描述性参数(描述符)构建数据集。基于获取到的数据,使用机器学习中的分类算法对已获取的材料数据进行分析,判断出SrTiO3有成为高温氧化物热电材料的潜能。材料的掺杂改性一直是材料研究中的重要课题,由于(SrO)m(SrTiO3)n材料作为层状钙钛矿材料,其结构易调整,可以进行新型材料设计。在保证m+n=20的前提下,本文通过改变(SrO)m(SrTiO3)n中的SrO原子层层数,同时改变SrO层在晶胞中的位置,一共设计了 4496个不同结构的(SrO)m(SrTiO3)n超胞,由于SrTiO3中SrO原子层和SrTiO3原子层层数上的差异,以及SrO层和SrTiO3层在晶胞中位置的差异,不同结构(SrO)m(SrTiO3)n的性能存在明显差异,并显示出一定的变化趋势。应用机器学习中的回归预测算法预测不同结构(SrO)m(SrTiO3)n材料的热容值,通过比较不同算法的表现,在众多算法中,强学习器在数据量较小的情况下,也能有很好的表现,但相较于弱学习器需要更多的训练时间,而神经网络可以通过调整网络结构,在较少的训练时间下,就达到非常高的准确率。由于训练好的机器学习模型能达到很高的准确率,几乎可以替代传统的计算模拟,表明将机器学习算法模型应用到热电材料的研究中,能有效缩短研发周期,在材料结构不断复杂化,材料数据不断庞大的今天,这种新的研究范式非常适合于应用到材料研究中。

关键词： SAR图像   森林生物量   纹理特征   机器学习   集成学习  

摘要： 森林在维持生物圈平衡、实现资源可持续发展等方面扮演着重要角色。森林生物量表征了森林生命活动,反映了植被生长状况,尤其体现了森林获取能量的能力和固碳能力。森林生物量的估测是研究、监测和治理生态环境的重要一环,也是目前众多学者探索的热点问题之一。SAR技术因其全天候全天时、穿透性强等独特的优势,为植被相关问题的研究提供了新的手段,并被越来越多地应用于生物量反演相关研究。针对SAR图像参数与森林生物量之间的非线性关系难以实现较优拟合的问题,利用SAR后向散射系数的同时,引入SAR图像的纹理特征,采用机器学习的回归建模方法反演森林生物量。首先分析了SAR基础,提取了实验区SAR后向散射系数与纹理特征;然后探讨了机器学习方法和集成学习方案反演森林生物量的相关问题。本文主要结论如下:（1）SAR图像纹理特征中的均值（Mean）和方差（Variance）对森林生物量反演表现出了比较积极的意义,其重要性评分相对较高。将随机森林（Random Forest,RF）与递归特征消除算法（Recursive Feature Elimination,RFE）结合,对后向散射系数与纹理特征等共计12个预测变量进行特征选择,确定了最优预测变量组合为:Mean、DB、Variance与LIA,对森林生物量回归的重要性评分依次为100、90、53与39。（2）机器学习方法的表现优于多元线性回归;Mean与Variance提高了森林生物量反演精度。利用四变量（最优预测变量组合）建立了实验区森林生物量反演的如下回归模型:RF（R2=7581）>SVM（R2=7339）>ANN（R2=0.6807）>MLR（R2=0.6790）,其中RF最优;为进一步对比分析机器学习方法和纹理特征的优势,继续以二变量（DB与LIA）和单变量（仅DB）建立上述四种回归模型。整体表现上机器学习方法优于多元线性回归;引入纹理特征中的Mean与Variance后,森林生物量反演精度较二变量和单变量R2分别提升0.0604与0.0651。（3）差异性较大的、本身性能表现较好的基学习器组合而成的集成学习方案提高了森林生物量反演精度。对常见机器学习方法RF、SVM、ANN、KNN与CART进行相关性计算和组合方式的差异性度量之后,确定了六种集成学习方案,采用堆叠（Stacking）的集成策略,利用最优预测变量组合建立了反演森林生物量的如下方案:C8（R2=0.7898）>C1（R2=0.7791）>C12（R2=0.7607）>C14（R2=0.7528）>C2（R2=0.7417）>C6（R2=0.7067）,其中由RF、SVM与ANN组合而成的C8方案最优,并且与单模型中最优的RF模型相比,回归精度仍然有所提升（R2提高0.0317）。