关键词： 机器学习方法   人脸识别技术   择性集成学习   非线性流形学习   模式识别   图象识别  

摘要： 本文主要研究了基于新型机器学习方法的人脸识别技术，内容涉及人脸检测与人脸识别。本文将机器学习领域最新的研究进展，如选择性集成学习和非线性流形学习等应用于人脸识别，做出了三个方面的创新工作：\n 第一，提出了基于投影函数的人脸检测算法。研究了不同投影函数用于精确定位眼睛位置时的不同特点，并提出了广义投影函数GPF的概念。使用一种广义投影函数的特例——混合投影函数HPF能够精确定位眼睛的中心位置，从而提高了人脸检测的准确度。\n 第二，提出了选择性多本征空间集成人脸识别算法SEME，该算法自动选择人脸图像中不同的子区域结合起来进行人脸识别，能够获得比直接使用整张人脸图像更高的识别率。\n 最后，提出了非线性流形学习算法S-Isomap，使用S-Isomap进行可视化和分类都取得了较好的效果，从而为设计基于非线性流形的人脸识别算法奠定了基础。

关键词： 机器学习   人工胚胎   人工免疫  

摘要： 　主要从方法论的角度概述了人工胚胎和人工免疫等领域的国内外机器学习的研究状况,并对进一步的研究工作做了简单的展望.

关键词： image OCR   video OCR   content-based indexing   text detection   support vector machine  

摘要： Automatic character detection in video sequences is a complex task, due to the variety of sizes and colors as well as to the complexity of the background. In this paper we address this problem by proposing a localization/verification scheme. Candidate text regions are first localized by using a fast algorithm with a very low rejection rate, which enables the character size normalization. Contrast independent features are then proposed for training machine learning tools in order to verify the text regions. Two kinds of machine learning tools, multilayer perceptrons and support vector machines, are compared based on four different features in the verification task. This scheme provides fast text detection in images and videos with a low computation cost, comparing with traditional methods. (C) 2003 Elsevier B.V. All rights reserved.

关键词： 一范数支持向量机   机器学习方法   对偶形式   特征提取算法   决策函数  

摘要： 支持向量机算法是一种新的机器学习方法,其主要应用于分类学习问题上.本文推导出一范数支持向量机问题的对偶形式,并用其对偶形式成功解决了2000年全国大学生数学建模竞赛A题-DNA序列分类问题,输入样本有16个特征,而分类函数只依赖于样本的两个特征,得到了很好的特征提取结果;可以看出一范数支持向量机具有很好的特征提取效果而且具有计算方便,效率高等优点.

关键词： 面向用户   语言模型   机器学习   线性结构   N-gram模型  

摘要： 为改善语言模型的自适应能力,提出的面向用户的语言模型在组织结构上由通过大规模平衡语料的训练得到的通用语言模型(其原始参数维持不变)和通过在线学习得到的用户模型(其参数采用先进先出技术动态更新)组成;在数据存储结构上,通用模型采用多级索引结构来解决数据稀疏问题,用户模型采用线性结构表示,用二分法查找。根据最大限度纠正语言模型的转换错误和避免语言模型不平衡的原则,提出了适应汉语N-gram模型的机器学习方法。实验结果表明,这种机器学习方法具有“强化”特点,和“渐进学习”方式一起为应用系统提供了更灵活的选择。

关键词： 机器学习   语料库   未标注样本   Co-training   主动学习   统计学习理论  

摘要： 文中通过讨论机器学习和自然语言处理之间的关系,论述了语料库语言工程中机器学习的困境,概述分析了应用半监督学习的现状,研究有限样本下结合未标注样本的方法和统计学习理论框架的结合前景。

关键词： 文本分类   垃圾邮件过滤   机器学习  

摘要： 高精度的垃圾邮件过滤技术是最近自然语言处理的研究热点、在这篇论文中我们在与指导机器学习（Supervised Machine Learning）的框架下使用统计的方法研究垃圾邮件过滤问题、本文系统地研究了不同统计特征选取的方法和特征集大小对常用分类算注性能的影晌。特别地，本文观察到特征选取函数的重要性随分类器的不同差别很大。以常用的朴素贝时斯（Naive BayeS）分类器为例，我们观察到其性能在小特征集上受特征选取函数影响很大。支撑向量机（SuPPort VeCtor Machine），AdaBoost和最大嫡模型在邮件分类上取得了很好的效果：对特征选取函数不敏感，很容易扩展到高维特征空间，在不同测试集上的分类效果稳定。此外，试验还表明简单的“bag of words”过滤模型对垃圾邮件过滤有很好的效果，尤其拥有与语言无关的特性。我们对中文语料进行了简单的预处理（分词）之后就取得了很好的分类效果。试验中还发现邮件信头中的特征对分类效果有显著影晌。在仅使用邮件信头中的特征的情况下，我们在四个测试语料上取得了98%的分类准确车。这意昧着邮件信头的特征可以被用作高效垃圾邮件过滤特征。

关键词： Information Processing   Information Extraction   recurrent neural nets   Fidelity   BLACK-BOX   complexity classes   Neural network   Network   Epistemology  

摘要： Neural networks do not readily provide an explanation of the knowledge stored in their weights as part of their information processing. Until recently, neural networks were considered to be black boxes, with the knowledge stored in their weights not readily accessible. Since then, research has resulted in a number of algorithms for extracting knowledge in symbolic form from trained neural networks. This article addresses the extraction of knowledge in symbolic form from recurrent neural networks trained to behave like deterministic finite-state automata (DFAs). To date, methods used to extract knowledge from such networks have relied on the hypothesis that networks' states tend to cluster and that clusters of network states correspond to DFA states. The computational complexity of such a cluster analysis has led to heuristics that either limit the number of clusters that may form during training or limit the exploration of the space of hidden recurrent state neurons. These limitations, while necessary, may lead to decreased fidelity, in which the extracted knowledge may not model the true behavior of a trained network, perhaps not even for the training set. The method proposed here uses a polynomial time, symbolic learning algorithm to infer DFAs solely from the observation of a trained network's input-output behavior. Thus, this method has the potential to increase the fidelity of the extracted knowledge.

关键词： morphological classification   high-dimensional shape transformations   machine learning methods  

摘要： A high-dimensional shape transformation posed in a mass-preserving framework is used as a morphological signature of a brain image. Population differences with complex spatial patterns are then determined by applying a nonlinear support vector machine (SVM) pattern classification method to the morphological signatures. Significant reduction of the dimensionality of the morphological signatures is achieved via wavelet decomposition and feature reduction methods. Applying the method to MR images with simulated atrophy shows that the method can correctly detect subtle and spatially complex atrophy, even when the simulated atrophy represents only a 5% variation from the original image. Applying this method to actual MR images shows that brains can be correctly determined to be male or female with a successful classification rate of 97%, using the leave-one-out method. This proposed method also shows a high classification rate for old adults' age classification, even under difficult test scenarios. The main characteristic of the proposed methodology is that, by applying multivariate pattern classification methods, it can detect subtle and spatially complex patterns of morphological group differences which are often not detectable by voxel-based morphometric methods, because these methods analyze morphological measurements voxel-by-voxel and do not consider the entirety of the data simultaneously. (C) 2003 Elsevier Inc. All rights reserved.

关键词： 机器学习   计算智能   概念规则学习   支持向量机   基金项目评审   项目文档检索   决策支持系统   多主体技术  

摘要： 随着计算机和通信技术的创新与应用,社会生产力水平得到了快速的提高。人类寻求在机器中复制人类智能的愿望越来越强烈,极大地促进了计算智能和学机器学习等学科的发展。本文应用统计学、计算智能、系统工程和管理科学等理论,在对机器学习理论、概念规则学习方法和支持向量机方法等进行了系统深入的研究,并将机器学习方法应用于基金项目评审和管理。 本主要研究内容如下: 1、描述了智能系统或知识系统的一般框架,论述了机器学习与计算智能的联系,分析了机器学习的概念、方法和典型应用领域,提出了将机器学习方法应用于科学基金项目评审和管理的思路。 2、分析了PAC可学习定义,推导了有限假设空间下一致学习机和非一致学习机的样本复杂度的关系式。基于统计学理论研究了经验风险最小化原则学习过程的一致性问题。基于VC-维概念,研究了经验风险与真实风险之间关系的一般化不等式,并论述了学习过程的结构风险最小化归纳原则。 3、研究了规则学习的策略与典型算法,提出了基于约束聚类的概念学习方法(CLCC)。定义了合取规则可学习性的概念,设计了一种启发式正例聚类的算法框架,以及从正例聚类生成合取规则的基于期望信息的快速算法。提出了概念规则的后剪枝方法和处理准则。同时,将CLCC算法和传统算法分别应用于基金项目评价的概念学习,并进行了详细计算实验和分析。 4、研究了支持向量机(SVM)模型的特点和形式,描述了SMO算法的计算过程和程序框架。提出了根据样本数据在欧氏空间上的局部几何特征,筛选最有可能成为支持向量的候选样本的思路。设计了候选支持向量选择的SCSV算法和异常样本过滤处理的AEF算法,AEF+SCSV与SMO算法相结合可以有效学习SVM分类函数。研究了基于SVM的基金项目评价问题的机器学习方法,并进行了详细的实验计算。 5、应用决策支持系统和Multi-Agents技术,研究了基于机器学习方法的基金项目评审决策支持系统。给出了基金项目评议决策支持系统的工作流程和框架,以及基金项目智能交互式信息检索过程和处理流程。采用ID3、CLCC和SVM方法,建立了项目评议知识库系统和用户查询项目文档分类学习知识库系统。给出了基于机器学习的基金项目评审决策支持系统PE&PRDSS-MAS的整体原型设计,描述了各Agents的功能和控制方式。