关键词： Big Data   Epidemiologic methods   Myocardial infarction   New technology   Women  

摘要： Introduction: Machine learning (ML) techniques applied to high-dimensional health data may aid in identifying novel predictors of myocardial infarction (MI). We used two ML algorithms to identify novel predictors of MI in post-menopausal women in the Women's Health Initiative Study (WHI) Heart Failure Cohort and compared the performance of these models to an established MI risk model. Methods: After performing minimum-necessary data cleaning on baseline variables, 1227 variables remained. The dataset was split: 60% of participants made up the training cohort and 40% the validation cohort. In our training cohort, we separately applied the Least Absolute Shrinkage and Selection Operator (LASSO) technique with cross-validation, and Classification and Regression Trees (CART) to select predictors for our primary outcome of incident MI hospitalization. In our validation cohort, we built three Cox Proportional Hazards models using three different sets of variables: Model 1 : CART; Model 2: LASSO; Model 3: established predictors of MI in women. Model discrimination was compared using Receiver Operator Characteristic (ROC) and c-statistics at 5-years. Results: Our cohort of 46,568 patients experienced 2,355 incident MI events; median time to event= 7.01 years. CART and LASSO identified 18 and 13 significant predictors, respectively (Table). Novel predictors selected include RAND-36 physical function construct, dietary pectin ingestion, Medicaid status, normal pap test result and prior hemoccult test (Table). The CART model had the highest C-statistic (0.750), followed by LASSO (0.735). The traditional model had the lowest c-statistic (0.715). Conclusions: When applied in the WHI, ML techniques can identify novel sets of variables without a priori input that yield superior risk prediction models when compared to an established MI risk model. Novel predictors and the models generated from them can provide a basis for hypothesis generation and future investigations. [ABSTRACT F

关键词： 移动流量   电商APP   特征提取   用户行为分析  

摘要： 随着互联网的飞速发展,民众购物方式大幅度转型,对于大规模电商APP数据的分析研究具有较高的商业意义和研究价值。对于移动运营商来讲,如何在大规模移动流量数据中快速且有效的甄别电商APP用户的行为类别,如何从用户流量信息中挖掘出更有价值的信息,成为一个重要的研究课题。但传统基于知识工程的人工识别标记用户行为数据的方式耗时耗力,已然不适用于APP数量不断暴增的现状。因此,本论文的核心研究工作就是基于移动DPI流量数据,实现移动电商APP用户行为的自动识别与购买行为预测。具体来说,本论文的主要研究内容如下:1.采集移动DPI数据并完成电商APP用户数据的预处理首先,从移动上网流量中提取国内主流电商APP的URL信息,生成正则表达式文件,完成流量规则识别。其次,基于Hadoop平台上的MapReduce框架,对原始的移动DPI数据进行流量规则匹配,过滤出移动电商APP用户数据集。2.提出基于URL的电商APP用户行为自动识别方法针对电商APP用户数据集中的大规模URL数据,提出基于URL的电商APP用户行为自动识别方法。该方法采用了六种不同的特征提取策略,分别为基本切分方式(Baseline)、消除大小写差异、基于URL组件信息、基于URL组件长度信息、基于Bi-,Tri-grams以及组合词分割。再采用朴素贝叶斯、支持向量机、逻辑回归、决策树及随机森林五种不同的机器学习算法构建多分类模型,实验结果表明所提出的电商APP用户行为自动识别方法准确性超过75%。3.提出基于DPI数据的电商APP用户购买行为预测方法针对移动DPI数据,从用户角度挖掘能够代表用户电商APP购买习惯的特征。并结合基于URL的电商APP用户行为自动识别结果,提出基于滑动窗口的用户购买行为预测方法。实验证明了所提出的用户购买行为预测方法具有较好的效果,并且挖掘新增的用户行为特征可使预测准确性明显升高。

关键词： 机器学习   蛋白质   功能预测   亚细胞定位  

摘要： 随着蛋白质组学、基因组学技术的高速发展，生物序列数据呈指数增长，促进了对蛋白质功能的深入研究。高通量实验技术在蛋白质研究中取得了重要研究成果，然而实验技术费时、费力，不能满足处理大量生物学数据的需求。因此，基于机器学习开发高效、可靠的计算方法预测并分析蛋白质功能十分重要。本研究基于蛋白质序列数据，运用机器学习算法构建了DNA结合蛋白(DNA-bindingproteins,DBPs)、凋亡蛋白(apoptosisproteins,APs)的亚细胞定位，以及蛋白质棕榈酰化位点(palmitoylationsites)的预测模型。主要研究结果如下：　　DNA结合蛋白的鉴定在原核和真核生物的基因和蛋白质功能注释研究中具有十分重要的意义。本研究首次运用间隔二肽组分(gapped-dipeptidecomposition,GapDPC)结合递归特征消除法(recursivefeatureelimination,RFE)鉴定DBPs。首先获得待测蛋白质序列的位置特异性得分矩阵(positionspecificscoringmatrices,PSSMs)，在此矩阵基础上提取蛋白质的GapDPC特征，通过RFE法选择最优特征，然后利用支持向量机(supportvectormachine,SVM)作为分类器在蛋白质序列数据集PDB396和LB1068中进行夹克刀交叉验证(Jackknifecrossvalidationtest)。研究结果显示，基于PDB396和LB1068数据集，DBPs预测的准确率、马修斯相关系数、敏感性和特异性分别达到93.43%、0.86、89.04%和96.00%，以及86.33%、0.73、86.49%和86.18%，明显优于文献报道中的相关方法，为DBPs的鉴定提供了新的模型。　　凋亡蛋白通过调节细胞的增殖和死亡控制正常组织的动态平衡。凋亡蛋白的功能和它们的亚细胞定位有着密切关系。尽管鉴定凋亡蛋白亚细胞定位的计算方法有很多，但是其预测准确率仍有提高的空间。本研究捕获并整合了蕴含于蛋白质氨基酸序列中的多种特征开发了新方法iAPSL-IF，这些特征基于氨基酸序列的马尔科夫链(Markovchains)、物理化学性质矩阵(physicochemicalpropertymatrices)和PSSM中提取得到。不同维度的矩阵通过自负协方差变换(autocrosscovariance,ACC)法转换为固定长度的特征向量。用RFE法选择特征向量的最优特征子集，并用SVM分类。本研究采用夹克刀交叉验证法基于三个数据集ZD98、CL317和ZW225测试iAPSL-IF的性能。结果显示，iAPSL-IF优于文献报道中的方法：基于三个数据集的总体准确率分别为98.98%(ZD98)，94.95%(CL317)和97.33%(ZW225);数据集中几类亚细胞定位蛋白质的马修斯相关系数、敏感性和特异性的范围分别为：0.92-1.0，94.23-100%和97.07-100%。本研究开发了一种基于序列、高通量、性能优越的凋亡蛋白亚细胞定位的方法，促进了对生物细胞程序性死亡的理解。　　蛋白质棕榈酰化是一种可逆的蛋白质翻译后修饰，在蛋白质稳定性和亚细胞定位等方面发挥重要作用。本研究构建了一种预测蛋白质棕榈酰化位点的新模型(PSSM-CKSAAP-RFE)。采用蕴含进化信息的k-spaced氨基酸对组分方法表征蛋白质序列，通过RFE法进行特征选择;基于上述特征训练SVM分类器，并采用夹克刀交叉验证法检测模型性能。研究结果显示，训练集和独立测试集的预测准确率、马修斯相关系数、特异性、敏感性和AUC分别为98.44%、0.94、98.95%、95.65%和0.990，以及98.41%、0.93、99.39%、92.31%和0.994，优于文献中报道的相关方法，为蛋白质棕榈酰化位点的预测提供了一种新模型。

关键词： 企业财务困境   机器学习   摘牌公司   随机森林   提升方法  

摘要： 在过去的几十年里,中国作为世界第二大经济体,一直是学者和分析人士评估内部和外部金融冲击的焦点。企业财务困境便一直是重要关注点。因为在危机和灾难性事件之后,公司是此经济体中受影响较深的机构之一,它们也会因此不得不退出市场。本文比较了六种机器学习模式的性能,阐释1998-2016年期间中国沪深两市上市公司退市与否的二分类问题。本文样本包括2,863家公司,在分析中,它们被分成了训练、验证和测试三类数据集(50/25/25),用于对各个模型进行有效性的评估。相应地,本文比较了决策树(DT)、提升方法、随机森林(RF)、支持向量机(SVM)、逻辑回归和人工神经网络(ANN)等模型。本文使用前向逐步筛选法对国泰安数据库(CSMAR)财务报表中的偿付能力、比率结构、收益能力分析、工业经济部门、经营能力、现金流和增长率等44个财务比率指标进行变量选择。最终,本文选择了适合模型的24个财务指标,从而减少预测误差,并使得结果更为可靠。实证结果表明,随机森林和提升方法能提供最佳的预测性能,这两个方法的分类误差最小,并在AUC(ROC曲线)和召回率-准确率曲线的评估测量中表现出色。此外,本文应用了优于其他模型的随机森林,对变量的相对重要性进行分析。由此分析得出,对于预测中国企业退出的最重要的三个财务指标是ROA(资产收益率)、EBITDA/总负债和营业净利润率。

关键词： 入侵检测   集成算法   告警融合   数据挖掘   规则关联  

摘要： 随着互联网应用的不断普及,在大规模复杂的网络会话中,各类攻击手段层出不穷,而传统入侵检测系统通常给出的告警是原始且孤立的,难以得出攻击之间可能存在的某些联系,显然已经不能满足我们对网络环境安全性能的要求。近年来随着机器学习方法及深度学习技术的发展,使得网络安全管理在现有网络入侵检测及处理方面引入了更为有效的响应机制,因此本文主要做了如下工作:1)针对传统检测算法对单步攻击识别率较低且易产生误警的问题,本文提出了基于机器学习的梯度提升树(GBDT)集成检测算法。以决策树作为集成算法的基学习器,对单步攻击进行检测识别,该算法对传统检测算法泛化能力进行极大提升,在训练集样本有限的条件下,能够保证测试集相对独立。实验对比分析了 GBDT与经典机器学习算法及KDDCup99获胜者检测率的结果,验证了集成算法在单步攻击识别中的可行性。2)针对基于机器学习的集成算法对单步攻击识别中,由于样本中攻击类别数量的差距造成的稀有攻击检测识别率较低,且告警设备产生大量低级告警对检测系统效率的影响问题。本文在告警信息融合的基础上提出基于预定义规则与基于属性相似度的综合关联模型,解决了稀有攻击识别率低及弥补单一规则关联知识库不完善或持续攻击造成某些告警场景的分裂。实验验证了在规则关联的基础上进行统计意义上的告警相似度关联,可以弥补预定义规则关联因规则库不完善或IDS误报导致的关联结果不完整,同时可以基于攻击意图有步骤逻辑地将攻击过程和目标所对应的场景呈现出来。3)针对告警关联规则挖掘中传统挖掘Apriori算法对相同的项目重复比较的太多,有些事务被多次扫描造成系统资源的浪费且对检测系统时效产生较大影响,因此本为提出对Apriori算法的改进算法W-Apriori,利用层次分析法对数据集事务项进行加权规则关联,解决了在较小支持度下大数据集中的规则挖掘时效问题。实验验证了改进算法在不同支持度阈值及数据规模下W-Apriori算法的性能指标。

ISBN: (纸本)9787111611493

关键词： 缺陷识别   边缘检测拟合   聚类图像分割   LS-SVM   GA-BP   深度学习   CNN  

摘要： 在埋弧焊石油输送钢管的制造过程中,由于生产工艺和生产环境的制约,焊缝中常会产生损害管材质量的各式焊接缺陷,而现有人工X射线图像焊缝缺陷检测识别方法效率较低且准确率不高,本文基于石油管材焊缝的X射线图像,对焊缝缺陷的检测和识别方法进行研究,旨在提出一种能够实现更优识别指标的焊缝缺陷识别算法,从而提高焊缝缺陷识别的准确率并提升识别过程的自动化程度。在缺陷检测过程,首先基于整幅X射线石油钢管焊缝图像,对其使用小波滤波滤除噪声、使用图像增强操作以消除对比度不同图像对缺陷检测的影响、再用最大类间方差法分割出焊缝区域、最后采用Prewitt边缘检测和霍夫变换等数字图像处理技术检测拟合出焊缝区域,并验证了咬边缺陷的存在不影响焊缝边缘的提取。其次,针对常用阈值分割方法不适于小面积区域缺陷分割的局限,用基于排序点的聚类结构算法(OPTICS)对区域内任意大小的缺陷和噪声伪缺陷进行分割,然后对缺陷、噪声和无缺陷正常图像进行提取并进行数据增强及尺寸归一化操作,从而完成焊缝图像的预处理以构建出样本图库。在缺陷识别过程,首先采用传统“人工特征提取+机器学习”的方法进行缺陷识别,根据缺陷和噪声的外部几何特征计算出其海伍德直径等6种形状特征参数,对特征参数进行主成分分析降维,从而完成焊缝缺陷的特征提取,再分别利用最小二乘支持向量机(LS-SVM)和基于遗传算法优化的神经网络(GA-BP)实现基于人工特征提取的焊缝缺陷识别,验证方法有效性时得到的识别准确率分别为96.33%和95.33%。其次,采用深度学习技术,用卷积神经网络(CNN)与Softmax分类器相结合的算法,以缺陷和噪声为输入样本训练CNN模型,经测试得到所设计CNN模型不仅可靠性强,对位置紧邻的缺陷也能够准确识别,且省去了人工特征提取的繁琐,并实现了 97.44%的高识别准确率。最后,训练三个CNN以构建焊缝缺陷识别模型并进行实际应用实验,实验达成的较优识别指标验证了本方法的有效性,方法在提高识别准确率的同时能够减少人工劳动量,从而提升检测识别的自动化程度。

关键词： Genetic algorithms  

摘要： Protein citrullination is catalyzed by peptidylarginine deiminase (PAD), during which the positive charge of arginine is changed to the neutral charge of citrulline. Some human diseases such as rheumatoid arthritis, autoimmune diseases, and Alzheimer’s disease are known to be associated with PAD enzymes and citrullinated proteins. However, none of the existing prediction tools for citrullination have resulted in a good outcome. This study was conducted to evaluate the performance of the catalyzing rules of PADs, which have been described in previous studies. Machine-learning approaches were used to construct a prediction model for citrullination sites with eight features, i.e., catalyzing rules, sequence similarity, evolutionary information, physicochemical and biochemical properties of amino acids, secondary structure, and disorder and surface accessibility, which were derived from previous studies. We then designed small data modeling and proposed a feature model selection to construct the evaluation of feature model selection (FMS) model that could predict unknown citrullination candidates. Finally, our prediction model was able to achieve an accuracy of up to 0.90 and a Matthews correlation coefficient (MCC) of 0.80, while the selected features were almost similar to those in previous biological analyses. © 2018, Chinese Society for Quality. All rights reserved.

关键词： Deep learning   CNN   DICOM   JPEG  

摘要： BACKGROUND: Low-quality medical images may influence the accuracy of the machine learning process. OBJECTIVE: This study was undertaken to compare accuracy of medical image classification among machine learning methods, as classification is a basic aspect of clinical image inspection. METHODS: Three types of machine learning methods were used, which include Support Vector Machine (SVM), Artificial Neural Network (ANN), and Convolution Neural Network (CNN). To investigate changes in accuracy related to image quality, we constructed a single dataset using two different file formats of DICOM (Digital Imaging and Communications in Medicine) and JPEG (Joint Photographic Experts Group). RESULTS: The JPEG format contains less color information and data capacity than the DICOM format. CNN classification was accurate for both datasets, whereas SVM and ANN accuracy decreased with the loss of data from DICOM to JPEG formats. CONCLUSIONS: CNN is more accurate than conventional machine learning methods that utilize the manual feature extraction.

关键词： 无序蛋白   预测算法   序列分析   深度学习算法  

摘要： 固有无序蛋白自身结构的松散性使得它可以与多种生物大分子结合,在细胞功能调节与信号传导中占据重要的角色,与许多人类重大疾病存在着密切关系,成为当前研究热点。然而由于无序蛋白自身结构的松散性,在自然状态下无法形成一个稳定的三维结构,使得它通过生物实验方法测定变得十分困难,通过计算方法进行预测成为无序蛋白研究中的有效途径。为此,本文引入深度学习算法,与传统机器学习算法进行比较,为固有无序蛋白的预测方法研究提供有效途径。本文首先基于Disprot无序蛋白数据库完成了数据集的构建和特征值提取,在此基础上通过对已有预测算法使用的特征集的优化组合,选取了进化保守性矩阵PSSM、氨基酸的物理化学性质与氨基酸的组成三种特征,构建了无序的组合特征编码模型。通过对传统机器学习算法(逻辑斯特回归、线性判别分析、K最近邻、朴素贝叶斯、决策树与支持向量机)和深度学习算法(卷积神经网络与循环神经网络)在无序蛋白预测算法中的应用进行了对比分析,基于不同的数据集应用不同的特征组合进行无序蛋白的预测实验,结果表明深度学习算法的准确度要明显优于传统机器学习算法,相较于支持向量机则有着更好的效率,可应用于无序蛋白的分类预测。论文最后基于包括深度学习在内的机器学习算法,给出了固有无序蛋白预测系统的设计与实现,为固有无序蛋白预测方法的进一步研究提供相应服务。