关键词： 物理层通信   信号波形设计   符号检测   机器学习   神经网络  

摘要： 随着机器学习近年来的迅速发展,除了在计算机视觉、自然语言处理、机器人等领域获得广泛研究外,其在通信领域也逐渐受到重视且表现出了巨大的潜力。随着5G技术的商业部署,关于6G技术的构思与讨论已经形成,然而其庞大、复杂的通信场景使得信道分析和建模变得异常困难、系统设计复杂度变得难以控制,这些挑战驱使研究人员转向机器学习领域寻求解决方案。从机器学习的角度分析,很多通信问题可以概括为回归、分类或集群等问题,因此,研究人员已将机器学习作为辅助工具或优化技术来提高物理层通信的有效性和可靠性,比如信道估计、信道编码、信源编解码、调制和信号检测等方面。这些研究可根据机器学习的应用角度分为两类:块结构(Block-structured)的方法和端到端(End-to-end,E2E)的方法。块结构方法用神经网络辅助或替代通信链路的某一个或几个信号处理模块,结合现有的传输理论,获得性能的增益。E2E方法用一个神经网络替代整个通信链路,旨在实现通信系统的全局最优工作状态。E2E方法和部分块结构方法属于数据驱动(data-driven)的方案,即将神经网络视为“黑盒”,但E2E方案需要较准确的信道状态信息,而部分块结构的方法忽略信道状态信息,二者都通过大量的标注数据实现线下训练。但是数据标注工程有时在通信链路中难以实现,因此模型驱动(model-driven)方案同样是研究和应用的热点。模型驱动方法一般将神经网络与现有通信算法结合,并充分利用信道状态信息等相关知识,以极短的时间和极少的数据规模实现训练。本文在这样的背景下关注机器学习在物理层通信的应用,以块结构和数据驱动方案为主要方向,研究了以下四个部分内容:(1)正交幅度调制系统的信号波形设计问题;(2)码间干扰影响下的发送符号序列建模问题;(3)恒参信道下通信系统的符号检测问题;(4)无线信道下通信系统的符号检测问题。第一部分研究能够预补偿信道失真的发送信号波形的设计问题,旨在利用强化学习在没有标注数据的条件下优化发送星座映射。基于信号空间的特征,本文采用Actor-Critic的结构并用神经网络对其拟合,并在收发两端设计反馈信道实现强化学习的闭环模型。通过强化学习的训练,实现对发送信号的优化,然后更新发送星座映射关系。仿真结果表明,本文所提的算法能够根据信道特征生成预补偿信道失真的星座映射关系,不需要提前进行数据标注工程,实现了一定的智能化。第二部分关注受码间干扰影响的接收信号序列到发送符号序列的映射建模问题。并以光纤信道中色度色散引起的非因果性码间干扰为研究背景进行研究,提出采用非因果时间卷积网络实现对接收信号中的原始符号信息的提取,建立从接收信号序列到发送符号序列的映射关系。本方案属于数据驱动方案,不需要获得信道状态信息,仅通过标注数据实现训练。仿真结果表明,本文提出的方案能够在码间干扰的影响下,实现对原始发送符号的建模。第三部分关注恒参信道,探讨群时延畸变引起的码间干扰,并以单极化传输的标准单模光纤系统为研究背景,提出非因果时间卷积网络结合池化层结构的接收端设计,实现接收信号波形序列到接收符号序列的映射。在单极化传输中,光信号只存在一个偏振方向,不存在偏振态色散,因此色度色散和光噪声是导致信号失真的主要原因。针对多信噪比的场景,本文提出相应的高效训练方法。仿真结果表明,在单极化传输的标准单模光纤系统中,本方案与传统的均衡器相比能获一定的性能增益。最后一部分关注无线信道,探讨频率选择性引起的码间干扰,并以多径瑞利慢衰落信道为研究背景。在分析了该通信场景下引起的码间干扰的因果性后,本文采用(因果)时间卷积实现对接收信号的原始符号信息的提取,实现发送符号序列的建模。针对瑞利慢衰落信道的时变性,本文提出基于元学习的训练算法实现时变信道下的自适应学习。仿真结果表明,本文提出的方法能够实现多径效应下的符号检测,且在慢衰落信道中表现得十分稳定。总结以上工作,本文首先从正交幅度调制信号的波形设计出发探索机器学习对信道预均衡的研究。其次考虑码间干扰现象,提出基于时间卷积网络的序列到序列的解决方案,实现对发送符号序列的建模。随后将这个基于神经网络的序列模型应用到恒参信道和无线信道中,并设计了适合信道特性的训练方法。

关键词： 腐蚀   机器学习   软测量模型   随机森林   神经网络   腐蚀剖面  

摘要： 随着油气开发的不断进行,腐蚀已经成为导致生产管柱损坏的主要因素之一,给各油气田造成了巨大的经济损失,严重影响油气开采的正常进行。因此,生产管柱腐蚀治理是保证油田正常生产和经济效益的关键,其中对生产管柱腐蚀类别和速率的精准预测是一个重要前提。但是,传统的腐蚀监测、预测方法存在局部性、模型单一、稳定性较弱等不足,无法适应油气井整个生产管柱剖面的腐蚀分析。本文采取物理机理与数据驱动相结合方法建立生产管柱腐蚀剖面软测量模型,该模型对现场生产管柱腐蚀分析与治理,油气安全生产,提高经济效益,以及智能油田建设具有重大意义。 本文通过腐蚀规律研究,确定了矿化度、温度、流速、H2S分压、CO2分压以及管材类型是生产管柱腐蚀的影响因素。试验模拟不同矿化度、温度、CO2分压、H2S分压及流速等条件下J55、N80和25Cr Mn VA三种材料的腐蚀规律,获取腐蚀原始数据。对原始数据进行数据类型转化、异常数据处理及规范化处理后,使用SMOTE算法和GAN算法解决了实验数据不均衡问题,形成数据样本集。经过Spearman相关系数分析,确定腐蚀预测模型的特征参数为温度、流速、H2S分压、CO2分压以及管材类型。利用数据样本建立随机森林和LSTM循环网络两种腐蚀形态预测模型,其中LSTM循环网络模型的准确率稍高,但随机森林模型对单一类别识别能力更强,实际应用时可结合二者共同分析。建立GBRT与FNN腐蚀速率预测模型,两种模型均能较好的实现腐蚀速率预测,其中FNN模型在各方面的表现都优于GBRT模型,但FNN模型的复杂度较高。利用上述模型对生产管柱腐蚀剖面进行了预测,结果表明生产管柱不同深度处工况条件不同,腐蚀速率和腐蚀形态变化较大,根据腐蚀剖面可以确定生产管柱防腐重点区域及其风险点,预测管柱剩余寿命,为管柱预见性维修提供支撑。

关键词： 数学结构   机器学习   主动学习   有序回归   神经网络量化  

摘要： 二十一世纪以来,机器学习方法发展迅速,并在各个领域中扮演着越发重要的角色。不管是基于卫星图像预测农产品产量,还是基于产品图片筛查可能存在瑕疵的产品,高预测准确性的机器学习方法显著降低了生产成本。不管是广泛使用的通过语音控制的智能家居产品,还是不断普及的辅助驾驶技术,可以被低成本广泛应用的机器学习方法显著提升了人民生活水平。不管是预测新冠病毒的传播趋势,还是辅助预测蛋白质的结构,具有理论支撑的机器学习方法显著促进了科学技术的进步。为了更好地服务经济社会建设,我们需要不断提升机器学习方法的预测准确率,降低其应用成本并深入探索其中蕴含的理论问题。 机器学习任务和方法中普遍蕴含着各类数学结构。数学结构是由附加在集合上的数学对象所组成,常见的数学结构包括度量结构、序结构和等价结构等。通过探索各类数学结构在机器学习方法的样本收集、模型设计和部署应用等实施流程中的运用,本文显著提升了机器学习方法各方面的表现,以符合经济社会建设的需要。本文主要的研究内容和结论如下: (1)基于样本空间中的度量结构,提出了一种具有标注质量控制功能的主动学习方法。机器学习方法的训练过程通常需要大量的标注样本,这些样本通常由众包工人或专家提供,并需要负担高昂的人力成本。为了获得高水平的标注,通常还需要添加质量控制流程,这进一步增加了标注成本。主动学习方法旨在选择最有价值的样本进行标注,以减少标注量。本文基于度量空间中的三角不等式设计了一种新的样本选择指标,并为其设计了一种可实用的算法。该方法直接使用噪声标注,并可以自动平衡标注质量与标注数量之间的关系,从而显著降低了总标注成本。本文的方法基于k折交叉实验的结果选择样本,并证明了在同一批次中从任何冗余样本集中标记多个样本的概率小于1/k。本文的方法在模拟数据集和基准数据集上获得了领先的结果,并且在工业零件瑕疵检测任务中表现良好。 (2)基于样本空间中的序结构,提出了一种用于有序回归问题的自然阈值模型。阈值模型是一类常用的有序回归方法,其通常使用一列可学习的有序阈值将实数轴划分为连续的段,然后将样本投影到实数轴上,最后根据其所属的段确定其类别。本文提出使用固定的自然阈值序列(即0.5,1.5,…)来简化阈值模型。本文证明在对神经网络结构做微小调整后,使用固定阈值不会降低阈值模型的表现。自然阈值简化了阈值模型的逻辑复杂度和实现复杂度,并简化了针对特定评价指标定制损失函数的难度。本文给出了两种常用的设计损失函数的方法,并在模拟数据集和基准数据集上验证了所提出方法的有效性。本文还将自然阈值模型用于钻石定级任务中,并取得了领先的结果。 (3)基于模型参数空间中的等价结构,提出了一种神经网络量化方法。神经网络量化方法使用低精度的定点数来表示权重矩阵和激活向量,从而显著减少网络所需的存储空间并提高推理速度,但同时也降低了网络的预测精度。为了使精度下降更少,现有方法要么使张量的定点表示更接近原始值,要么直接训练量化后的网络参数。本文提出对权重矩阵的行和列分别进行放缩,然后对放缩后的权重矩阵进行量化,以减少量化后矩阵向量乘法的计算误差。基于对误差分布的假设,本文给出了期望误差的理论形式,并设计了算法以求解令期望误差最小的放缩比例。本文还将所提出的方法扩展到各类卷积层上,并设计了预截断算法和无偏修正方法。本文进一步将所提出的方法与AdaRound方法结合,并在多个网络结构上取得了领先的结果。 本文的主要贡献有:提出一种具有标注质量控制功能的主动学习方法,并证明其具有良好的抗冗余样本能力;提出一种用于有序回归的自然阈值模型,并给出了两种常用的定制损失函数的方法;提出了基于权重矩阵行列分别放缩的神经网络量化方法,并与常用的AdaRound方法相结合以取得领先的结果。本文有效地丰富了对机器学习任务和方法中有效数学结构的研究。

关键词： 财务预警   不平衡数据   RFE-CV   灵敏度   采样   Stacking  

摘要： 进入大数据时代以来,企业对信息的敏感程度和预警能力提出了更高要求。对企业而言,财务预警一直是经营与投资活动中的难题。目前,许多学者将机器学习与财务预警相结合,取得了一定的成果。同时,大量的学者以上市企业财务情况为基础,展开了大量的研究。然而实际上,从每年上市公司数据可知,出现财务预警的ST企业数量严重小于财务状况正常的非ST企业,所以在选取数据时存在严重的数据不平衡问题。本文将基于不平衡财务数据进行财务预警分析,具体流程如下:⑴对不平衡数据进行删除及插补后,使用交叉验证的递归特征消除法(RFE-CV)对数据在不同模型下进行特征选择,最终将所有所选特征组合为最终特征选择的结果。⑵对特征选择后数据,针对不同模型,分别进行以灵敏度为损失函数的网格调参。⑶基于bagging运算及调参后的最优模型,求出不同采样方法下各单一模型的AUC值,以AUC值为指标构建不同采样方法下的Stacking集成组合,并求出所有情况下的准确度、灵敏度、特异度及AUC指标进行统一比较,选出最优模型。本文共考虑了四大常用分类模型及三种基础采样方法:依次为Logistic回归、随机森林、Light GBM及Xg Boost模型;随机欠采样、随机过采样及SMOTE采样。针对上述模型,本文创新了财务预警的特征选择方法,依次对四种分类模型进行RFE-CV特征选择,并将结果进行集合形成最终特征选择结果,相较于传统的基于相关系数的特征选择,增强了特征选择的可解释性,且相较于相关系数阈值选择的主观性,本文特征选择方式更加客观;本文创新了网格调参的损失函数,使用灵敏度函数替代准确度函数,以提高模型分类灵敏度,使后续财务预警企业的判别更加准确;同时本文新增了不同采样情况下的Stacking模型分析,针对不同采样方法,以AUC值为指标,形成对应的stack集合,考虑更加复杂的分类模型,以提升分类的整体效果。相较于传统的仅考虑单一模型的财务预警,本文在保留了较好的灵敏度的情况下,提升了模型准确度。

关键词： 不平衡数据   单分类   异常值检验   降维   变量选择   PR曲线  

摘要： 随着信息技术的飞速发展与数据挖掘能力的增强,不平衡数据的预测变得越来越常见。由于少数类的稀疏,传统的二分类方法无法捕捉到足够的异常值信息,其预测结果往往偏向多数类,对于少数类的识别能力不足。而单分类方法对于类别分布的情况不做过高的要求,仅需单类数据的信息就可以构建有效的异常值检测模型。针对高维不平衡数据的预测问题,除了要应对类别不平衡的问题,还要对高维特征进行降维。所以本文在特征提取与特征选择这两种降维方式下,建立了基于单类支持向量机(OCSVM)、变分贝叶斯(CAVI)、逻辑回归(GEL)的单分类模型。为了体现单分类算法的优越性,本文还对比了基于SMOTE算法的二分类方法。在评价指标选取方面,ROC曲线比较注重模型整体的性能,对于数据集分类比例的变化并不会产生很大的波动,而PR曲线对于两类数据占比的变化十分敏感,相比ROC曲线更能体现出模型对少数类的预测精度。故本文以PR曲线的AUC值作为评价指标。为了探究预测模型的稳健性,本文进行了数值模拟。在实证分析部分,使用了福建某商业银行的小微企业信用贷款数据和中国家庭金融调查与研究中心收集的信用卡交易数据,在原有变量的基础上引入了各个变量之间的交互项,建立了一个高维不平衡数据。数值模拟和实际数据的结果表明:(1)单分类方法可以对高维不平衡数据进行有效的异常值检测,而传统二分类器在同等条件下丧失了对异常值的预测能力。(2)单分类方法的异常值检测能力会因为正常样本的占比的减少而减弱。(3)自变量之间的相关性越高,单分类方法的异常值检测能力就越弱。(4)无论是特征维数是否大于总体样本数量,单分类方法的预测能力都是很稳健的。(5)在PCA降维下单分类模型的表现要优于LASSO、XGBoost降维下的单分类模型。

关键词： 肝细胞癌   病理分化等级   机器学习   超声组学  

摘要： 目的和意义:探讨超声组学特征在肝细胞癌病理分级的术前预测价值并建立肝细胞癌无创术前预测模型,实现肝细胞癌病理分化程度的术前无创评估。 方法:本研究回顾性收集2015年1月至2022年1月在广西医科大学第一附属医院及2013年1月至2021年11月在山东第一医科大学第一附属医院(山东省千佛山医院)行肝切除术或肝穿刺活检术并取得病理结果的肝细胞癌患者。收集这些患者的术前一个月内的超声图像,通过设计掩膜来提取图像中感兴趣的区域,掩膜的勾勒工作由两位低年资超声科医生使用Fiji(https://***/)软件采用“双盲”方法完成,并对肝细胞癌边缘掩膜进行单独纹理分析以获得肝细胞癌的边缘信息,供后续分级模型使用。通过声像区域剪裁、空间重采样及直方图归一法对来自不同超声仪器的超声图像进行预处理,以减少多中心数据差异带来的纹理噪声影响。图像预处理完成后,使用pyradiomics(https://***/)对肝细胞癌超声纹理特征进行分析、提取和量化,同时通过小波变换构建衍生图像提取更为细微的纹理特征。并分别使用了三种特征选择方法对冗余的特征进行了筛选和降维,包括Pearson系数法、方差阈值法以及套索回归(LASSO)。选取四种机器学习模型构建肝细胞癌分化预测模型,基于肝细胞癌超声图像纹理特征预测肝细胞癌高级别、中级别和低级别分化程度,四种机器学习模型分别为:K邻近算法(K-Nearest Neighbor,KNN),支持向量机(Support Vector Machine,SVM),基于集成学习方法(ensemble learning)的随机森林(Random Forest)和XGBoost。使用Python对样本数据进行统计分析,P<0.05具有统计学显著性。机器学习模型评估参数选择准确率(Accuracy),精准度(Precision),召回率(Recall)和受试者工作特征曲线(ROC)及曲线下面积(AUC)评估模型。 结果:本研究按照制定的纳入与排除标准,共纳入患者706人。其中队列一(广西医科大学第一附属医院)共纳入中分化肝细胞癌510例、高分化肝细胞癌133例及低分化肝细胞癌41例。队列二(山东第一医科大学第一附属医院)是为弥补高分化及低分化患者数据的不足而收集的补充数据集,共纳入高分化肝细胞癌9例及低分化肝细胞癌13例。从肝细胞癌超声病灶ROI及病灶边缘ROI提取了共823个特征。使用Pearson共筛选36个特征,方差阈值法共筛选19个特征,LASSO套索回归筛选共24个特征。对于肝细胞癌分化程度预测,最终表现最佳为LASSO套索回归筛选的特征,使用XGBoost的集成学习方法,得到的机器学习模型评估参数为,高分化肝细胞癌分类模型的AUC值为0.73(准确率:0.75、精确度:0.93、召回率:0.87);中分化肝细胞癌分类模型的AUC值为0.73(准确率:0.85、精确度:0.80、召回率:0.73);低分化肝细胞癌分类模型的AUC值为0.68(准确率:0.68、精确度:0.61、召回率:0.92)。我们还选取了患者的性别、年龄、有无乙肝、有无丙肝、ALT、AST和AFP一共7个术前临床特征建立了临床影像结合模型,相比仅影像组学,临床影像结合模型的表现在肝细胞癌高中低分化上表现均有所提升。其中,高分化肝细胞癌分类模型的AUC值为0.76(准确率:0.78),中分化肝细胞癌分类模型的AUC值为0.80(准确率:0.90),低分化肝细胞癌分类模型的AUC值为0.71(准确率:0.72)。 结论:通过超声组学与机器学习方法相结合,有可能在一定程度上实现肝细胞癌病理分化程度的术前无创分级预测。

关键词： 青少年   自杀未遂   非自杀性自伤   风险因素   机器学习   预警   青少年   自杀未遂   非自杀性自伤   机器学习   预警   青少年   自杀未遂   非自杀性自伤   自杀未遂   非自杀性自伤行为   评价   青少年   预警  

摘要： 第一部分青少年自杀自伤行为的流行病学特征及影响因素研究目的:调查青少年自杀自伤行为的流行病学特征及其影响因素。方法:采用分层整群随机抽样的方法,调查重庆市高中一、二年级学生的心理健康状况,将参与的学校每个年级30%的人数抽样,以班级为单位,共抽取20个中学22284名16-20岁学生。问卷内容包括:一般人口学资料、人格特征筛查(艾森克个性问卷、Barratt冲动性量表、Buss和Perry攻击问卷)、近期心理健康水平筛查、近期生命质量筛查、近期健康危险行为筛查以及自杀自伤意念及行为筛查。采用描述性统计分析、独立样本t检验和卡方检验(必要时Fisher精确概率检验)等统计方法,P<0.05视为具有统计学显著性。结果:近1年有时或经常觉得活着没意思、自己死了或许更好、想过自杀自伤的青少年比例分别为19.6%、12.9%以及7.2%。最近1个月内有时或经常想过自杀自伤的青少年比例为5.1%。至少采取过1次自杀自伤行为的青少年比例为2.7%。最近1个月内身体状况、精神心理健康状况、经济状况、学习状况差或非常差的青少年比例分别为4.5%、7.2%、13.1%以及13.9%。最近1个月内与家人或其他人关系差或非常差的青少年比例分别为4.4%和2.8%。女性、城市、最近12个月和1个月内有自杀自伤意念、最近1个月内身体与心理健康状况、经济、学习情况以及人际关系较差的青少年更容易出现自杀自伤行为。最近1个月失眠、吸烟、饮酒、赌博,以及因饮酒、心理问题或身体问题影响生活时间越久的青少年越容易出现自杀自伤行为。P分、N分、E分、冲动性、攻击性人格特质分数高的青少年更多出现自杀自伤行为。SCL-90总分及其分量表均值分高的青少年更多出现自杀自伤行为。结论:青少年自杀自伤行为与性别、家庭所在地、人格、近期的生命质量、近期心理健康水平、近期健康危险行为等密切相关。未来应当多借鉴国外成熟的以社区和学校为主体的青少年自杀自伤行为预防干预的经验,结合我国国情,为以家庭为主体的青少年自杀自伤行为防护提供更多资源。第二部分机器学习方法预警青少年期自杀自伤行为目的:利用机器学习方法构建青少年期自杀自伤行为预警模型。方法:采用分层整群随机抽样的方法,调查重庆市高中一、二年级学生的心理健康状况,将参与的学校按每个年级30%的人数抽样,以班级为单位,最终获得有效问卷22284份。筛选性别、居住地、EPQ人格、冲动性人格和攻击性人格等共16个特征。采用SPSS 26.0软件进行逻辑回归分析,检验水准为0.05。利用支持向量机、随机森林、决策树、极端梯度增强以及Bagging决策树分类器5种机器学习方法构建青少年期自杀自伤行为预警模型,采用敏感性和特异性评价模型的性能。结果:逻辑回归分析显示城市、女孩、高神经质和精神质、高无计划冲动性、高身体攻击性和高指向自我的攻击性是青少年期自杀自伤行为的风险因素。5种机器学习算法构建青少年自杀自伤行为预警模型,特异性介于35.5%-84.7%,敏感性介于39.2%-82.8%。综合来看,随机森林和Bagging决策树分类器在青少年期自杀自伤行为的预警模型构建中表现较好。青少年期自杀自伤行为预警模型前5个最重要特征依次为:行为冲动性、精神质、指向自我的攻击性、语言攻击性和敌意。结论:机器学习方法用于构建青少年期自杀自伤行为预警模型性能较好,人格特征比其他状态的心理症状和精神障碍具有提供更可靠、更具预测性的信息的潜力,对于青少年期出现的自杀自伤行为应采取综合性的预防策略。第三部分机器学习方法预警青少年12个月内自杀自伤行为目的:利用机器学习方法构建青少年12个月内自杀自伤行为预警模型。方法:利用分层整群随机抽样,抽取中学、职高以及大学的一、二年级学生共182836人。建立队列,第2年同一时间段对同一批人群进行复测,最终收集参与两次测试共25767人。选取年龄、近期心理健康水平、近期生命质量、近期健康危险行为以及自杀自伤意念共22个特征。采用SPSS 26.0软件进行逻辑回归分析,检验水准为0.05。利用支持向量机、随机森林、决策树、极端梯度增强以及Bagging决策树分类器5种机器学习方法构建青少年12个月内自杀自伤行为预警模型,采用敏感性和特异性评价模型性能。结果:在第二年筛查中发现12个月内新出现自杀自伤行为的青少年共58人,发病率为0.23%。12个月内有和没有自杀自伤行为的青少年在年龄、吸烟、网络成瘾、躯体化、强迫、人际关系敏感、抑郁、焦虑、敌对、恐怖、偏执、精神病性以及其他(食欲、睡眠)等方面有统计学上的差异(P<0.05)。逻辑回归分析显示最近30天吸烟天数多、敌对、年龄小、近1年觉得活着没意思、最近1个月有消极观念是青少年12个月内出现自杀自伤行为的风险因素。5种机器学习算法构建青少年12个月内自杀自伤行为的预警模型,特异性介

关键词： 特征选择   不平衡数据   分类   AUC  

摘要： 在机器学习的领域中,分类问题一直是一个研究热点,而在这个数据日益增长的时代,数据的高维和不平衡性在金融、医疗等领域中广泛存在,数据的这些特性对传统的机器学习分类算法带来了严峻的挑战。 本文针对非平衡数据集的特征选择和分类方法开展研究,提出了基于AUC的两个特征选择算法,并结合这两个算法和已有算法在小微企业数据集上构建了小微企业风险预测模型,最后结合实际应用场景,实现了小微企业违约风险评估系统。 本文的主要研究工作如下: (1)针对FAST-ROC根据特征与目标的相关性对特征进行排序过滤,而没有考虑特征之间组合后对分类器的影响,本文提出了一种二段式的特征选择算法FAST-SBS。该算法首先利用FAST算法对特征的类别的相关性做出排序,然后利用启发式搜索算法,在特征子集中去除子集中的冗余特征。实验结果表明,该算法能够有效的选出特征子集并且可以提高分类器的效果。 (2)在FAST算法的基础之上进行优化,在误分实例上考虑特征组合对分类器效果的提升,提出了一种基于AUC面积的特征选择算法REFAST。首先计算每个特征的AUC值来度量单个特征的分类效果,并且选取AUC最大值特征加入最终特征子集,然后选取最终特征子集错分实例为新的训练集,在此训练集下度量剩余特征对特征子集分类效果提高的能力。实验结果表明了算法的有效性。 (3)目前小微企业发展迅速,产生非常庞大的可挖掘数据,本文所收集的小微企业数据集较为庞大且不平衡度较高,在此数据上很好的验证了本文提出的两个算法并且构建了较为可靠的小微企业风险预测模型,在实际的金融风控问题上得到了较好的应用。 (4)最后在本文提出的风险预测模型基础上结合实际应用场景,设计和实现了小微企业违约风险评估系统。系统主要包括小微企业违约风险预测、模型更新和信息查询三大模块。