关键词： Transdermal enhancers   Discriminant analysis   Gaussian process regression   Percutaneous absorption  

摘要： Discriminant analysis (DA) has previously been shown to allow the proposal of simple guidelines for the classification of 73 chemical enhancers of percutaneous absorption. Pugh et al. employed DA to classify such enhancers into simple categories, based on the physicochemical properties of the enhancer molecules (Pugh et al., 2005). While this approach provided a reasonable accuracy of classification it was unable to provide a consistently reliable estimate of enhancement ratio (ER, defined as the amount of hydrocortisone transferred after 24 h, relative to control). Machine Learning methods, including Gaussian process (GP) regression, have recently been employed in the prediction of percutaneous absorption of exogenous chemicals (Moss et al., 2009;Lam et al., 2010;Sun et al., 2011). They have shown that they provide more accurate predictions of these phenomena. In this study several Machine Learning methods, including the K-nearest-neighbour (KNN) regression, single layer networks, radial basis function networks and the SVM classifier were applied to an enhancer dataset reported previously. The SMOTE sampling method was used to oversample chemical compounds with ER > 10 in each training set in order to improve estimation of GP and KNN. Results show that models using five physicochemical descriptors exhibit better performance than those with three features. The best classification result was obtained by using the SVM method without dealing with imbalanced data. Following over-sampling, GP gives the best result. It correctly assigned 8 of the 12 "good" (ER > 10) enhancers and 56 of the 59 "poor" enhancers (ER < 10). Overall success rates were similar. However, the pharmaceutical advantages of the Machine Learning methods are that they can provide more accurate classification of enhancer type with fewer false-positive results and that, unlike discriminant analysis, they are able to make predictions of enhancer ability. (C) 2011 Elsevier B.V. All rights reserved.

关键词： Streamflow   Forecast   Machine learning   Artificial neural network   Support vector regression   Gaussian process  

摘要： Weather forecast data generated by the NOAA Global Forecasting System (GFS) model, climate indices, and local meteo-hydrologic observations were used to forecast daily streamflows for a small watershed in British Columbia, Canada, at lead times of 1-7 days. Three machine learning methods - Bayesian neural network (BNN), support vector regression (SVR) and Gaussian process (GP) - were used and compared with multiple linear regression (MLR). The nonlinear models generally outperformed MLR, and BNN tended to slightly outperform the other nonlinear models. Among various combinations of predictors, local observations plus the GFS output were generally best at shorter lead times, while local observations plus climate indices were best at longer lead times. The climate indices selected include the sea surface temperature in the Nino 3.4 region, the Pacific-North American teleconnection (PNA), the Arctic Oscillation (AO) and the North Atlantic Oscillation (NAO). In the binary forecasts for extreme (high) streamflow events, the best predictors to use were the local observations plus GFS output. Interestingly, climate indices contribute to daily streamflow forecast scores during longer lead times of 5-7 days, but not to forecast scores for extreme streamflow events for all lead times studied (1-7 days). (C) 2011 Elsevier B.V. All rights reserved.

关键词： 贝时斯网络   粗糙集   马尔可夫模型   机器学习方法   RNA二级结构  

摘要： 随着人类基因组计划的成功实施，充分利用这些基因组测序数据，得到对人类有用信息的需求迅速增加，随之而诞生的生物信息学充分利用信息技术、数学、生物学、计算机科学等多学科工具，有效分析了海量数据所包含的生物学意义。而机器学习方法则给生物信息学提供了可靠有力的算法支撑，使得生物信息学对生命科学的探索与研究做出了重大贡献。本文利用了生物信息学中的若干种机器学习方法，研究了RNA的分子自折叠二级结构预测及RNA分子间靶位点碱基对匹配模式与靶点预测问题。\n 针对RNA二级结构预测算法中同源多序列保守结构预测法较单序列预测法复杂度高的问题，本文提出了保守二级结构中的保守碱基对来源于每个单序列的最优和次优自由能结构的假设。有效利用单序列自由能结构中各茎子结构的相关特征属性信息，通过支持向量机算法，保守碱基对被挑选出来。基于RNA二级结构预测标准数据集和Rfam数据库中十种RNA家族的二级结构预测实验显示，本算法的预测性能不低于主流预测算法水平。单序列自由能结构的引入既保证了较高的保守结构预测性能，又在一定程度上降低了算法复杂度。另外，本文研究的粗糙集方法挑选保守碱基对以及依靠茎子结构的公共程度属性排序挑选保守茎子结构法对SVM预测算法的最终形成提供了实验基础。\n 在表示各个单序列最优及次优自由能结构的诸个茎子结构与保守二级结构的关系时，本文给出了一种有效的RNA二级结构表示方法，简约点阵图法，使得基于茎子结构粒度的预测算法原理描述更加形象与深刻。\n RNA分子间靶点预测亦主要依据RNA的一级序列信息。对于miRNA靶位点碱基对互补配对模式特征的提取，本文先后使用了粗集工具与马尔可夫链式模型工具研究了配对模式的定性与定量特征。本文首先借助于两种量度变量，然后使用粗糙集工具，分析了miRNA的22个碱基中各个部分的匹配模式。接着，对miRNA靶点的序列匹配模式进行了进一步定量分析。通过建立马氏链模型，对训练数据进行学习，再根据极大似然法得到模型参数。已作完参数估计的模型为成熟的模型。基于这个成熟模型的得分，制定出一个合适的阈值，高于阈值的匹配模式都将被视为有效的模式，用于评估候选靶点作为真正靶点的可能性。\n 随着近几年来微阵列基因芯片的广泛使用，基因表达谱数据为RNA分子间靶点预测提供了一种有效的高通量实验模式。本文通过建立描述miRNA、mRNA以及蛋白质表达量之间相互关系的贝叶斯网络模型，预测出miRNA靶点的同时指出miRNA按哪种方式发挥作用。

关键词： 机器学习   增量式SVM   MHC结合  

摘要： 随着艾滋病和抗生素抵制的加剧,人们对疫苗研究越来越关注。通过表位短肽与主要组织相容性复合物(MHC)分子结合,激发免疫应答,由此设计和研发出具有应用价值的肽疫苗,准确预测肽段与MHC结合能力是关键技术之一。采用基于机器学习的支持向量机(SVM)算法对MHC结合肽进行预测分析,构造增量式SVM训练模型,然后将算法嵌入到Web平台搭建结合肽预测系统。

关键词： 稀疏中心核   图矩阵   半监督分类   核低秩编码   子空间分割  

摘要： 随着信息技术的飞速发展，机器学习已经发展成为当前人工智能领域的研究热点之一。稀疏性理论已被成功应用于许多机器学习方法中。核学习和谱图理论易于理解且具有较强推广能力，是当今机器学习领域的热点问题。本文将稀疏性引入到核函数的构造和图矩阵的构造问题中，构造了几种稀疏学习算法，采用标准测试问题验证了其性能。研究内容主要包括以下几方面：\n (1)在现有的稀疏编码分类算法的基础上，提出一种稀疏中心核编码分类算法。该方法首先通过k近邻思想在字典中选择中心样本，然后利用所有中心样本构造稀疏核函数，将字典和测试样本通过稀疏核函数映射至特征空间，最后在特征空间内对映射后的测试样本进行稀疏编码，利用得到的稀疏系数和误差判别函数进行分类。由于核映射时使用的是稀疏核函数，既增强了数据的可分性又减少了计算核函数的次数，使得该算法既能达到较高的识别精度，又能减少识别消耗时间。在常用的标准人脸数据库和手写体数字数据库上进行的仿真实验验证了该算法的有效性。\n (2)提出了一种基于核l1图的半监督分类算法。在现有的l1图方法的基础上，通过引入核的思想，使得线性不可分的样本在特征空间内变得线性可分。将核l1图方法构造的图矩阵与半监督分类方法结合，构造了基于核l1图的半监督分类。由于获得的图矩阵增强了同类样本间的相似性以及不同类样本之间的差异性，因此在后续分类中可获得更高的分类正确率。在标准人脸数据库和手写体数字数据库上进行实验仿真，结果显示：与同类算法相比，分类正确率有明显提高。\n (3)提出了一种基于核低秩编码的子空间分割算法。在该算法中，先通过核函数将样本集合映射至特征空间，再对新的样本集合联合求解得到低秩编码系数矩阵，从而构造无向图进行谱聚类。由于核映射加强了数据的可分性，使得后续子空间分割争取率有所提高。在人工数据集、标准的人脸数据库和手写体数据的实验仿真表明：该算法与现有方法相比，分割正确率有所提高且对噪声具有鲁棒性。

关键词： Conditional Random Fields   Deep Belief Networks   Machine Learning   Ultrasound Imaging   Linguistics   Articulatory Speech Data   Automatic Speech Recognition  

摘要： Humans make use of more than just the audio signal to perceive speech. Behavioral and neurological research has shown that a person's knowledge of how speech is produced influences what is perceived. With methods for collecting articulatory data becoming more ubiquitous, methods for extracting useful information are needed to make this data useful to speech scientists, and for speech technology applications. This dissertation presents feature extraction methods for ultrasound images of the tongue and for data collected with an Electro-Magnetic Articulograph (EMA). The usefulness of these features is tested in several phoneme classification tasks. Feature extraction methods for ultrasound tongue images presented here consist of automatically tracing the tongue surface contour using a modified Deep Belief Network (DBN) (Hinton et al. 2006), and methods inspired by research in face recognition which use the entire image. The tongue tracing method consists of training a DBN as an autoencoder on concatenated images and traces, and then retraining the first two layers to accept only the image at runtime. This 'translational' DBN (tDBN) method is shown to produce traces comparable to those made by human experts. An iterative bootstrapping procedure is presented for using the tDBN to assist a human expert in labeling a new data set. Tongue contour traces are compared with the Eigentongues method of (Hueber et al. 2007), and a Gabor Jet representation in a 6-class phoneme classification task using Support Vector Classifiers (SVC), with Gabor Jets performing the best. These SVC methods are compared to a tDBN classifier, which extracts features from raw images and classifies them with accuracy only slightly lower than the Gabor Jet SVC method. For EMA data, supervised binary SVC feature detectors are trained for each feature in three versions of Distinctive Feature Theory (DFT): Preliminaries (Jakobson et al. 1954), The Sound Pattern of English (Chomsky and Halle 1968), and Un

关键词： 故障诊断系统   汽变速器   遗传算法   支持向量机   机器学习方法  

摘要： 变速器是汽车的主要部件之一,其可靠性直接影响着汽车的整体性能指标。随着我国汽车工业的发展,为了提高生产效率,变速器新产品的故障检测工作应逐渐由自动化的计算机系统来代替传统的人工检测。因此,研发一种高效的变速器故障诊断系统迫在眉睫。该系统在提高检测效率的基础上,不但可以代替人工检测出有故障的不合格变速器产品,而且可以比人工检测更为精准的判断出故障原因,定位出故障部位,从而指导不合格变速器的维修工作并为变速器的质量跟踪和产品改进提供有力依据。　　 本文针对变速器新产品在线检测问题,主要进行了两个方面的研究工作:针对变速器故障诊断的理论研究和变速器故障诊断系统的设计开发验证工作。　　 针对变速器故障诊断的理论研究主要从以下三个方面展开:　　 (1)变速器故障特征提取方法研究。首先分析了近期旋转机械故障诊断中几种常用的故障特征提取方法:频谱分析、小波分析、经验模式分解方法和阶次分析方法,论述了每种方法的优缺点。然后根据变速器新产品故障诊断的特点,提出了基于阶次分析的故障特征提取方法。通过等角度采样、分轴计算、角域同步平均计算、阶次谱计算,利用同步采集的转速信号将振动信号由时域信号转化为反应变速器阶次信息的阶次域信号。最后选择三个能敏感的反应故障信息的时域特征指标与阶次域特征向量集共同组成了变速器故障特征向量集,完成故障特征提取工作。　　 (2)变速器故障特征选择方法研究。由于特征选择后得到的特征向量集中特征数量过多,一方面会影响学习算法的效率,一方面由于冗余特征的存在会降低学习算法的准确率。因此本文提出了一种基于遗传搜索算法的特征选择策略。该方法以类内类间距离与惩罚系数的乘积做为特征评价准则,以改进的遗传算法作为搜索策略进行最优特征子集的搜索,最终得到了精简后的近似最优解。　　 (3)变速器故障分类方法研究。针对变速器故障分类判别中先验知识不完备、前期训练样本偏少,对实时性要求较高的特点,选取了支持向量机理论来解决变速器故障分类问题。在分析了支持向量机理论基础和原理之后,建立了二层多分类支持向量机结构模型,并针对正反例样本数量不平衡的特点,对支持向量机算法进行了改进,通过对惩罚因子的调整,解决了判别结果偏向于样本数多的类别的问题,得到了满意的判别结果。　　 针对变速器新产品故障诊断系统的分析设计和实施过程中遇到的问题,从系统实施方面对以下关键技术进行了研究:　　 (1)数据同步采集。针对转速信号和振动信号的同步采集问题,提出了一种解决方案。该方案不同于以往的以振动信号采集卡作为主控卡的方式,从阶次分析计算的需要入手,以转速信号采集卡作为主控卡,根据变速器输入轴的旋转周期作为数据采集长度的依据,实现了两路信号的同步采集。　　 (2)振动传感器测点位置分析。通过对变速器壳体上各个采集位置采集到的信号进行分析和评价,从十几个备选位置中选择了一个最优位置作为传感器安装位置,保证了采集到的信号质量。　　 (3)通用的变速器结构建模和参数存储。为实现系统的通用性,设计了通用的变速器结构模型,可存储不同型号不同结构的变速器齿轮和轴承参数。设计并实现了参数管理系统用于存储变速器故障诊断系统运行所需要的各种计算和硬件参数,可满足变速器性能试验台上不同工况下的诊断工作。　　 (4)故障诊断系统与变速器性能试验台之间的通讯模块的设计。变速器故障诊断系统在运行中,需要实时接收变速器性能试验台发送的各种指令并作出应答,才能实现诊断过程的自动化。文本在分析了交互过程后,设计了通讯模块的工作流程,并完成了该模块的实施。　　 (5)给出了变速器故障诊断软件的整体设计概要并展示了各部分功能。

关键词： machine learning method   DNA adducts   feature selection   Monte Carlo simulated annealing   applicability domain  

摘要： In this study, we developed new computational DNA adduct prediction models by using significantly more diverse training data-set of 217 DNA adducts and 1024 non-DNA adducts, and applying five machine learning methods which include support vector machine (SVM), k-nearest neighbour, artificial neural networks, logistic regression and continuous kernel discrimination. The molecular descriptors used for DNA adduct prediction were selected from a pool of 548 descriptors by using a multi-step hybrid feature selection method combining Fischer-score and Monte Carlo simulated annealing method. Some of the selected descriptors are consistent with the structural and physicochemical properties reported to be important for DNA adduct formation. The y-scrambling method was used to test whether there is a chance correlation in the developed SVM model. In the meantime, fivefold cross-validation of these machine learning methods results in the prediction accuracies of 64.1-82.5% for DNA adducts and 95.1-97.6% for non-DNA adducts, and the prediction accuracies for external test set are 78.2-100% for DNA adducts and 92.6-98.4% for non-DNA adducts. Our study suggested that the tested machine learning methods are potentially useful for DNA adducts identification.

关键词： 协作分类   链接预测   极限学习机   主动学习  

摘要： 随着以因特网为代表的信息技术的迅猛发展，人类社会大步迈入了网络时代。关于网络分析的需求日益增加，网络数据挖掘已成为数据挖掘中的一个重要研究课题。网络数据挖掘旨在从网络数据源中提取隐含的知识，完成实体分类、链接预测、社区发现、实体排序和网络聚类等任务，从而达到分析网络的性质、功能、动态变化和网络之间关系的目的。本文围绕网络数据挖掘领域，针对实体分类和链接预测任务，展开了深入的研究。在对现有的实体分类方法进行详细分析的基础上，重点研究了链接关系在实体分类问题中的作用，并针对不同类型的网络数据提出多种解决方案：针对实体有属性和标签的网络数据，提出基于主成份分析和极限学习机的正则化分类模型；针对实体有属性和标签，但已标记实体数量较少的网络数据，提出结合特征选择和链接过滤的主动协作分类方法；针对实体仅有标签信息的网络数据，提出集成网络拓扑特征和标签分布信息的协作分类框架。此外，本文对链接预测的研究现状进行总结，并针对稀疏链接网络，提出协作链接预测框架，给出两种具体实现算法。在多个公用数据集上的实验表明，本文方法能获得较好的效果。

关键词： 典型相关分析   核典型相关分析   核方法   核函数   不完全Cholesky分解  

摘要： 我们从处理线性关系样本的典型相关分析(CCA)的基本理论入手,通过引入“核”方法,总结了处理非线性关系样本的核典型相关分析(KCCA)的基础理论构造过程.在KCCA的计算中引入了正则化方法和不完全Cholesky分解法,达到了降维和解决过拟合问题的目的。同时我们还介绍了多项式核和高斯核这两种常用的核函数。最后,我们进行了简单的基于CCA的节目评分相关性实验和基于KCCA的字符识别实验,验证了二者在不同样本中的处理效果以及选取不同核函数时KCCA的表现。