关键词： 数据分类   支持向量机   模糊k-近邻   特征选择   医疗诊断   企业破产预测  

摘要： 医疗诊断方法和金融风险预测等决策问题在很大程度上主要依赖于决策方的实际经验，极易受决策方的主观意识和外界因素干扰所影响，做出偏差较大的分析，进而影响最终的决策效果。为了提高决策的准确性、客观性和科学性，人们提出利用机器学习对数据进行自动学习并从中提取复杂模式，从而进行客观、公正地决策。然而，由于这些决策问题本身的复杂性，直接将传统的机器学习方法应用于这些问题往往难以达到理想的决策效果，如何构造出强泛化能力的分类学习模型，为决策方提供科学的决策支持，是目前仍未很好解决的难题。本文主要研究构造具有强泛化能力的监督机器学习模型，用于更有效地解决疾病诊断和金融风险预测等智能决策问题。提出了集成粗糙集和支持向量机(SVM)的乳腺癌诊断决策支持方法、集成局部Fisher判别分析和SVM的肝炎诊断决策支持方法、基于三阶段SVM混合模型的甲状腺疾病诊断决策支持方法、基于演化模糊k-近邻(FKNN)的甲状腺疾病诊断决策支持方法、基于自适应SVM的疾病诊断和财务风险评估模型、基于并行元启发策略和FKNN的企业危机预警决策模型。在疾病数据集和金融数据集上的模拟实验表明本文提出的这些智能决策方法能获得良好的性能，并达到了预期的效果及目的。本文的研究一方面为机器学习方法本身的进一步发展起到促进作用；另一方面为医疗诊断和金融风险预测等复杂决策问题提供科学、客观的决策支持做出贡献。因此，本文的研究具有一定的理论意义和实际应用价值。

关键词： 机器学习   系统生物学   生物信息学   特征筛选   蛋白质   预测模型  

摘要： 通过对生物系统进行刺激，观察系统的反应和刺激的效果是最直接有效的理解生物系统作用机制的方法。机器学习可用于研究目标变量和特征变量之间关系。如果将刺激的效果作为目标变量，把刺激的属性作为特征变量，那么就可以使用机器学习的方法建立起刺激效果和刺激之间的联系，筛选出哪些属性是和刺激效果关联性最强的，最有可能导致刺激效果的，最终根据这些属性构造出预测模型预测新的刺激会产生什么样的效果。由于生物系统种类繁多，刺激种类也是多种多样，本文将主要对以下刺激/扰动进行研究：氨基酸突变与疾病发生，基因敲除与酵母寿命，肝炎病毒感染与肝硬化肝癌发生发展，药物治疗与药物疗效。　　氨基酸突变与疾病之间的关系被广泛研究。由于蛋白质序列上氨基酸的突变可能会导致蛋白质结构和功能的改变，因此可能与疾病相关。之前的研究都局限于使用氨基酸突变位点附近序列和结构的特征，包括序列保守性，氨基酸组成，氨基酸理化生化性质和蛋白质二级结构信息，而没有考虑蛋白质的网络功能重要性。如果氨基酸突变发生在一个不重要的蛋白质里，该突变很有可能不会导致疾病。基于这一思想，从UniProt(通用蛋白质资源)下载了从文献中整理出的氨基酸突变与疾病关联性数据，将每一个氨基酸突变使用以下信息进行编码：蛋白质在网络的介度，蛋白质及其邻居在KEGG(京都基因与基因组百科全书)通路上的功能富集打分，氨基酸突变位点保守性，结构不规则性，氨基酸理化生化性质，突变位点的功能位点注释，突变前后氨基酸性质的差异程度。通过mRMR(最大相关最小冗余)特征筛选方法发现蛋白质的网络功能属性和氨基酸位点的保守性对于正确预测突变的疾病关联性贡献最大。使用筛选出的特征，构建了一个突变与疾病关联性预测模型，该模型的预测预测准确率高于之前通用的基于序列保守性的同类预测软件SIFT(区分不可耐受和可耐受的突变)。开发了相应的突变位点与疾病关联性预测软件SySAP(单氨基酸动态性系统预测器)，同时提供在线预测功能和软件下载功能(网址为http：//和http：//***/SySAP/)。此外，本文还对TP53蛋白质上的多位点氨基酸突变对TP53转录活性的影响进行了研究。　　酵母中很多基因都被敲除过，实验发现有一些基因的敲除会导致酵母寿命的变化。本文从文献中收集了可以导致酵母寿命缩短或延长的基因，将这些基因与已知的与酵母衰老和寿命相关的基因在蛋白质相互网络上通过最短路径分析联系起来，得到每个敲出基因可能影响的下游衰老和寿命相关基因网络，将受其影响的敲出基因子网用网络拓扑学特征，生化理化性质和功能属性表示出来。结果发现，将受其影响的敲出基因子网属性与敲出基因本身的属性结合起来可以得到比单纯使用敲出基因本身的属性更好的对敲出效果的预测。　　肝炎病毒感染导致肝硬化肝癌发生发展是多个肝炎病毒蛋白质及其下游众多人体靶蛋白质相互作用的结果。研究结果表明使用肝炎病毒-人体蛋白质相互作用网络可以解释肝硬化肝癌发生发展的过程和预测不同阶段病人的状况。　　药物刺激与药物疗效涉及药物及其靶蛋白质在整个治疗过程中随时间的动态变化，更为复杂。本文使用决策树构建了基于时间序列表达谱数据的干扰素对丙型肝炎病毒治疗效果的预测模型，取得了很好的预测效果。　　综上所述，机器学习方法在分析和预测各类刺激/扰动对生物系统的影响方面都具有较好的效果。将扰动在蛋白质相互作用网络上的属性表示出来，会得到比单纯使用扰动本身的属性更好的预测效果。

关键词： 高斯过程   核方法   贝叶斯学习   回归分析  

摘要： 运用贝叶斯的理论框架解决现实中的一些机器学习难题,是最近几年在机器学习领域中一个热门方向。而高斯过程机器学习的方法是将贝叶斯方法用于机器学习的一种重要方法。本文主要介绍了高斯过程,并且讨论了如何将高斯过程同机器学习的领域联系起来,以及怎样将高斯过程机器学习的方法其运用于股票数据及期货数据的预测上。 本文主要从贝叶斯线性回归模型的问题出发,最终揭示如何将高斯过程机器学习的方法运用于回归分析,并将其运用于证券的预测上。对高斯过程的介绍主要通过特征向量在特征空间的投影和函数空间两个方面。我们通过介绍几种常用的协方差函数及其特性,发现高斯过程的协方差函数是学习研究高斯过程的关键。介绍了如何通过一些简单、熟悉的协方差函数来构造新的、复杂的协方差函数,以及如何使其具备各向同性、非各向同性、平稳及变周期等性质。协方差函数的性质是通过协方差函数的结构及其超参数的大小来体现。通过观察协方差函数的结构,很多类型的协方差函数我们很容易理解其超参数的含义。根据我们所研究的问题来选择一个合适的协方差函数类型,有关协方差函数的选择问题也就是模型的选择问题。最后,我们介绍了如何运用高斯过程机器学习的方法来预测证券。一种是基于时间序列的高斯过程机器学习方法,主要用于短期的预测。还有一种增强变量的高斯过程机器学习方法,该方法运用于长期预测简单且易实现。运用以上两种不同的高斯过程机器学习的方法通过Matlab强大的矩阵运算能力对数据进行回归分析,达到预测的目的,其实验结果令人满意。

关键词： 词汇对齐   机器学习   中文文本推理   目标识别   自然语言处理  

摘要： 文本推理的目标是识别文本对之间的蕴含关系和矛盾关系,这是一项语义层面的自然语言处理问题。文本推理可以应用于智能检索和问答系统等诸多领域。　　本义的研究对象是简体中义义本的推理关系识别,主要围绕NTCIR-9会议的文本推理评测任务展开。该评测任务要求判定给定文本对之间的推理类型,推理类型包括蕴含关系及其方向性、矛盾关系和独立关系。　　本文介绍了一个基于词汇对齐和机器学习方法的自动文本推理系统。算法的核心思想是将句子推理的问题转化为词语推理的问题。文本推理过程可以分为词汇推理和句子推理两个阶段。　　在词汇推理阶段,本文使用了中文数字编译器、中文概念词典CCD和网络资源来对文本对间的蕴含词对进行识别和提取,并计算蕴含概率。在句子推理阶段,本文提出了基于阈值的方法和基于机器学习的方法:基于阂值的方法直接对词汇蕴含概率求算术平均得到句子蕴含概率,然后通过与设定的阈值进行比较得到推理类别:而机器学习方法则通过已经得到的词汇蕴含概率和句法结构信息计算出特征.并训练得到一棵决策树模型来对测试语料中的文本推理关系对进行预测。　　在数据分析阶段,本文对基于阈值的方法和基于机器学习方法的实验结果进行了比较,发现使用机器学习方法可以带来系统性能的提升。

关键词： 本体   奇异值分解   潜在语义分析   模糊相容关系   模糊等价关系   失衡数据集  

摘要： 随着食品监管机制的逐步发展，网络上的投诉信息日渐增多，有效地组织这些文档投诉引起了广泛的研究。由于这类文档常常包含很多领域术语，一直很难得到有效的处理。目前，很多用户利用语义网技术把结构化的领域知识引入进本体，越来越多的用户自定义的本体应运而生。一般来说，这些领域本体在领域专家的指导下构建用以描述特定领域的知识。近年来，通用本体也得到了广泛应用，它为领域本体的概念化提供了一个详尽的语义知识词典。Hownet作为一个成熟的中文的通用本体，广泛被应用于文本分析及文档聚类算法中。 本文提出了一个不需要任何先验知识就能有效处理失衡数据的自动文本分类模型。首先，我们创建了食品领域本体作为领域知识库，利用通用本体Hownet作为背景知识对其进行语义扩充。具体做法为：从食品领域本体中解析出所需的受控词汇进行特征选择。在这里，受控词汇是指领域本体中包含的危害词汇，这些词汇对特征选择有指导作用。当处理一批新的投诉文档时会获得新的危害词汇，把这些新危害词汇适当添加回领域本体，就完成了对领域本体进行语义扩充。其次，用潜在语义分析方法实现非失衡数据的文档聚类，再基于词聚类的方法获得失衡数据集并进一步处理失衡数据集，使失衡数据二次分类。算法通过把词汇从词汇空间映射到潜在语义空间提高了文本聚类的精度，失衡数据的推导及处理有效解决了对小众事件的分析处理，提高了数据处理能力。 有了前面的基础，我们进一步提出运用模糊集理论结合本体的指导来实现食品投诉文档的聚类。在这个理论中，首先，我们依然运用通用本体作为背景知识指导食品领域本体扩充受控词汇并提取文档特征。然后，我们在k维语义空间中得到待处理文档集的模糊相容关系，再把它进一步转化为一个模糊等价矩阵。最后，利用一个评估函数指导选出最佳的聚类数及λ水平值。通过这一方法，文档间的语义模糊性在聚类过程中被充分考虑，由此得到了更有说服力及无交叉的聚类结果。该方法把涉及投诉多个主题的单篇文档划分到最合适的簇中，解决了文档簇之间的大规模的重复交叉问题。

关键词： BP   网络   支持向量机   打浆度   PLC  

摘要： 打浆度是衡量磨浆过程质量达标的一个重要因素,针对其难以在线测量,引入基于BP网络和支持向量机的打浆度软测量方法。仿真结果表明,支持向量机比BP网络的泛化能力强,此方法更能反映打浆度的真实值。

关键词： 隧道   围岩分类   高斯过程   机器学习  

摘要： 针对现有围岩分类方法的局限性,基于工程实例,利用分类性能优异的高斯过程机器学习模型建立围岩类别与其主要影响因素之间的非线性映射关系,进而提出一种基于高斯过程的隧道围岩分类模型,实现不同情况下围岩分类的合理识别。将该模型应用于川藏公路二郎山隧道围岩分类,研究结果表明,隧道围岩分类的高斯过程机器学习模型是科学可行的,与人工神经网络模型、支持向量机模型相比较,该模型具有参数自适应化的优点,能方便快捷地给出合理可靠且具有概率意义的围岩分类评价结果,可对围岩分类结果的不确定性或可信度进行定量化评价。

关键词： 激素敏感脂肪酶抑制剂   机器学习方法   变量筛选  

摘要： 对激素敏感脂肪酶,我们构建了表征分子组成、电荷、拓扑、几何结构及物理化学性质等特征的1559个描述符,通过Fischer Score排序过滤和Monte Carlo模拟退火法相结合进行变量筛选得到35个描述符,然后分别用支持向量学习机(SVM)、人工神经网络(ANN),k-近邻(k-NN),连续核密度估计(CKD)和逻辑回归(LR)等机器学习方法建立了激素敏感脂肪酶抑制剂的分类预测模型。对于训练集的200个样本,通过五重交叉验证,各机器学习方法对正样本,负样本和总样本的平均预测精度分别在78.0%-94.0%,69.0%-91.0%和73.5%-92.5%;通过y-scrambling方法验证SVM模型是否偶然相关,结果正样本,负样本和总样本的平均预测精度分别在60.0%-74.0%,58.0%-71.0%和61.0%-69.5%,明显低于实际所建模型的预测精度,表明所建模型不存在偶然相关;对52个没有参与建模的外部独立测试样本,各机器学习方法对正样本,负样本和总样本的预测精度分别在84.6%-92.3%,88.5%-92.3%和86.5%-92.3%。所建模型中,SVM,CKD和LR较好,且明显高于其他文献报道结果。

关键词： Follicular lymphoma   microscopic images   machine learning   pixel classification  

摘要： It is not very often to see a symbol-based machine learning approach to be used for the purpose of image classification and recognition. In this paper we will present such an approach, which we first used on the follicular lymphoma images. Lymphoma is a broad term encompassing a variety of cancers of the lymphatic system. Lymphoma is differentiated by the type of cell that multiplies and how the cancer presents itself. It is very important to get an exact diagnosis regarding lymphoma and to determine the treatments that will be most effective for the patient's condition. Our work was focused on the identification of lymphomas by finding follicles in microscopy images provided by the Laboratory of Pathology in the University Hospital of Tenerife, Spain. We divided our work in two stages: in the first stage we did image pre-processing and feature extraction, and in the second stage we used different symbolic machine learning approaches for pixel classification. Symbolic machine learning approaches are often neglected when looking for image analysis tools. They are not only known for a very appropriate knowledge representation, but also claimed to lack computational power. The results we got are very promising and show that symbolic approaches can be successful in image analysis applications.

关键词： Geostatistics   Kriging   Random forest   Spatially continuous variable   Spatial prediction   Support vector machine  

摘要： Machine learning methods, like random forest (RF), have shown their superior performance in various disciplines, but have not been previously applied to the spatial interpolation of environmental variables. In this study, we compared the performance of 23 methods, including RF, support vector machine (SVM), ordinary kriging (OK), inverse distance squared (IDS), and their combinations (i.e., RFOK, RFIDS, SVMOK and SVMIDS), using mud content samples in the southwest Australian margin. We also tested the sensitivity of the combined methods to input variables and the accuracy of averaging predictions of the most accurate methods. The accuracy of the methods was assessed using a 10-fold cross-validation. The spatial patterns of the predictions of the most accurate methods were also visually examined for their validity. This study confirmed the effectiveness of RF, in particular its combination with OK or IDS, and also confirmed the sensitivity of RF and its combined methods to the input variables. Averaging the predictions of the most accurate methods showed no significant improvement in the predictive accuracy. Visual examination proved to be an essential step in assessing the spatial predictions. This study has opened an alternative source of methods for spatial interpolation of environmental properties. Crown Copyright (C) 2011 Published by Elsevier Ltd. All rights reserved.