关键词： 资产定价   多因子模型   大数据   机器学习   金融科技  

摘要： 本文采用惩罚线性回归方法和主成分分析等多种机器学习算法,充分挖掘我国A股上市公司财务基本面大数据信息,尝试构建我国资本市场的简约的多因子定价模型.研究发现:我国A股市场中,主成分作为定价因子的表现要优于特征因子;在缩减定价因子个数方面,弹性网络方法的表现要略优于LASSO.此外,惯性类、交易摩擦类以及估值与成长类因子的贡献较大,说明虽然我国资本市场不够完善,市场参与者交易习惯有待提高,但也体现了市场不断完善且有效的一面.本文方法构建的多因子模型优于主流的定价模型.本文将机器学习方法引入到资产定价模型的构建,实现了对高维财务基本面数据的降维和变量选择,构建了我国A股市场多因子资产定价模型,并给出经济学解释.文章从大数据和机器学习的角度为我国A股市场资产定价提供了新思路,明确了各个定价因子在多因子模型中的贡献,有助于理解我国资本市场特点,为解决高维财务基本面数据问题提供了适用于我国资本市场的方法.

关键词： 肝癌   肺癌   惩罚逻辑回归   支持向量机   人工神经网络   极限梯度提升算法   预测精度  

摘要： 近几十年来,人们收集、传输和处理数据的能力飞速发展。与此同时,带来了很多新问题和新挑战,机器学习方法提供了可行的方法。例如:大量基因序列信息、转录数据、蛋白质数据涌现出来。如果充分利用这些数据来筛查肿瘤的良性和恶性,那么能准确而有效地筛查出肿瘤是良性还是恶性。对病人的早期诊断和靶向治疗至关重要,从而降低人类的死亡率。常见的癌症中,肝癌和肺癌的发病率和死亡率都极高。本文主要利用机器学习方法研究肝部肿瘤良恶性问题和肺部肿瘤良恶性问题。对于肝部肿瘤良恶性预测问题,本文选取Kaggle大数据网站上的579例肝部肿瘤样本数据。以年龄、性别和8个肝功能指标作为预测变量,肝部肿瘤良性和恶性作为响应变量建立七个分类器:逻辑回归、支持向量机、极限梯度提升算法、Ridge惩罚逻辑回归、Lasso惩罚逻辑回归、Elastic-Net惩罚逻辑回归和Adpative Lasso惩罚逻辑回归。以492例病人作为训练样本学习预测模型,再用87例病人测试模型的预测性能,比较七种方法的不同预测精度和预测表现。Ridge惩罚逻辑回归的预测精度最高,获得精度为0.812,灵敏度为0.790,特异度为0.843。因此,利用Ridge惩罚逻辑回归可以有效预测肝部肿瘤的良性和恶性情况。对于肺部肿瘤良恶性预测问题,本文选取威斯康星大学UCI网站的603例肺癌肿瘤样本数据,年龄、病人是否转入普通病房(是,否),重症监护(是,否),血红蛋白和血小板等22个指标作为预测变量,肺部肿瘤良性和恶性作为响应变量。原始数据中肿瘤的良性和恶性之比为13:2,由于分类变量比值相差较大,现运用R软件的SMOTE函数进行数据处理后,数据中肿瘤的良性和恶性之比变为3:1,从而肿瘤的良性和恶性的数据更加平衡。再肺部肿瘤良性和恶性作为响应变量建立八个分类器:逻辑回归、支持向量机、人工神经网络、Ridge惩罚逻辑回归、Lasso惩罚逻辑回归、Elastic-Net惩罚逻辑回归、Adpative Lasso惩罚逻辑回归和组Lasso惩罚逻辑回归。以706例病人作为训练样本学习预测模型,再用176例病人测试模型的预测性能,比较八种方法的不同预测精度和预测表现。人工神经网络预测精度的预测精度最高,获得精度为0.925,灵敏度为0.898,特异度为0.933。因此,利用人工神经网络可以有效预测肺部肿瘤的良性和恶性情况。本文用逻辑回归、支持向量机、人工神经网络、极限梯度提升算法和四种惩罚逻辑回归模型预测肝部肿瘤良性和恶性问题,得出Ridge惩罚逻辑回归预测表现最佳,平均精度为0.812;逻辑回归、支持向量机、人工神经网络和五种惩罚逻辑回归模型预测肺部肿瘤良性和恶性问题,得出人工神经网络预测表现最佳,平均精度为0.925;对于预测肝部肿瘤良恶性问题可以采用Ridge惩罚逻辑回归模型,预测肺部肿瘤良恶性问题可以采用人工神经网络模型。

关键词： Time frequency   Machine learning   Radar  

摘要： Increased demand on bandwidth has resulted in wireless communications and radar systems sharing spectrum. As signal transmissions from both modalities coexist, methodologies must be designed to reduce the induced interference from each system. This work considers the problem of tracking an object using radar measurements embedded in noise and corrupted from transmissions of multiple communications users. Radar received signals in low noise can be successively processed to estimate object parameters maximum likelihood estimation. For linear frequency-modulated (LFM) signals, such estimates can be efficiently computed by integrating the Wigner distribution along lines in the time-frequency (TF) plane. However, the presence of communications interference highly reduces estimation performance. This thesis proposes a new approach to increase radar estimation performance by integrating a highly-localized TF method with data clustering. The received signal is first decomposed into highly localized Gaussians using the iterative matching pursuit decomposition (MPD). As the MPD is iterative, high noise levels can be reduced by appropriately selecting the algorithm’s stopping criteria. The decomposition also provides feature vectors of reduced dimensionality that can be used for clustering using a Gaussian mixture model (GMM). The proposed estimation method integrates along lines of a modified Wigner distribution of the Gaussian clusters in the TF plane. Using simulations, the object parameter estimation performance of the MPD is shown to highly improve when the MPD is integrated with GMM clustering.

关键词： 衰老   机器学习   肠道微生物   居瘤胃解纤维素菌   两性差异  

摘要： 人体肠道微生物是一个非常庞大的系统,肠道微生物通过代谢产物和宿主进行信息交换,在人一生的成长和衰老过程中发挥着多种重要功能。肠道微生物群比人体细胞的数量高一个数量级,据计算大约有1014个细胞组成,由于肠道菌群的庞大和复杂性,以及对饮食、地域、疾病的易感性,使得对肠道微生物的定量研究充满了困难,本文主要通过机器学习对人体肠道微生物样本进行定量研究,通过微生物丰度数据建立宿主年龄和性别预测模型,并识别年龄和性别特异性微生物。本文主要内容如下:（1）通过斯皮尔曼相关系数对样本数据集进行降维,对1580种微生物祛除冗余项,留下19种具有代表性的微生物,输入机器学习回归模型。利用肠道微生物丰度数据预测样本的年龄,对预测值用R2和平均绝对误差评价,在Adaboost、随机森林模型以及Xgboost模型中,随机森林模型效果最好,R2=0.579,MAE=13.45。利用特征重要性得分识别与宿主年龄高度相关的微生物,识别双歧杆菌和居瘤胃解纤维素菌（Cellulosilyticum）,并在百岁老人的样本中发现了和老年人不同的肠道微生物结构,且这种变化不连续。（2）通过机器学习分类模型对样本数据集进行性别分类,本文采用了高斯贝叶斯模型、K-近邻模型、随机森林模型、自适应提升算法以及梯度提升决策树模型构建分类器。其中,随机森林分类模型效果最好,平均准确率达到79.5%。通过调节超参数的变化,对随机森林模型的准确率和F1得分进行检验,确保随机森林分类模型的稳定性。通过特征重要性得分识别对分类模型贡献较大的微生物,在前20种微生物中,有8种微生物属于厚壁菌门,有8种属于拟杆菌门,有3种属于放线菌门,有1种属于疣微菌门。同时,居瘤胃解纤维素菌（Cellulosilyticum）在百岁老人的样本中也发现了两性差异。

关键词： Logistic半参数模型   核机器   高维数据   变量选择   LASSO  

摘要： Logistic回归模型是一类常用的以二元结果作为响应变量的分类预测模型,被广泛应用于基因学、生物学和经济学等领域。随着大数据技术的飞速发展,现实数据呈现出高维性,且变量关系复杂。高维数据往往包含大量冗余预测变量,干扰回归模型中响应变量与相关预测变量的关系识别,降低模型预测精度。此外,预测变量与响应变量之间的复杂非线性关系难以灵活刻画,预测变量之间的高阶交互效应也难以自动建模,特别是对于高维情形。如何灵活刻画变量之间的复杂非线性关系,实现变量自动选择,从而实现Logistic半参数模型的精确预测是当前统计科学研究热点问题之一。因此,研究高维数据背景下精准的Logistic半参数模型的构建及其应用能够丰富和发展半参数建模理论方法,同时对于患病风险的精确预测和病人精准治疗方案的制定具有较大实践价值。本文利用“Garrotized”核机器技术逼近非参数函数以灵活刻画预测变量与二元因变量之间的复杂关系,借助LASSO方法自动筛选重要预测变量,构建基于核机器的非可加Logistic半参数模型,并提出一种惩罚Logistic“Garrotized”核机器(Penalized Logistic Garrotized Kernel Machine,PLGKM)方法。本文开发了一种有效的“One-Group-at-a-Time”循环坐标下降算法用于高维模型的快速计算。PLGKM方法的优势在于既能灵活刻画预测变量与响应变量之间的复杂关系,也能实现对预测变量间可能的高阶交互效应的自动建模同时可以自动剔除参数和非参数分量中不相关的预测变量,从而提升模型的预测精度。此外,本文研究了广义半参数模型的PLGKM方法,并以Poisson分布为例,验证Poisson半参数模型的惩罚Garrotized核机器方法的有效性。本文通过蒙特卡洛模拟考察所提出的PLGKM方法的有限样本表现。模拟结果表明在多元、高维甚至超高维情形下,相比于现有代表性方法,PLGKM方法的预测性能更优;相较于LASSO方法,Poisson半参数模型的惩罚Garrotized核机器方法预测精度更高。将所提出的方法用于乳腺癌患病风险预测,实证结果表明相比于现有的代表性方法,PLGKM方法的患病风险预测精度更高,验证了所提出方法的适用性。

关键词： 机器学习   PM2.5   二次无机颗粒物   PMF  

摘要： 环境中高浓度的PM2.5会造成环境能见度低,气候状况改变,并能够对人体健康产生危害。识别并评估区域内细颗粒物(PM2.5)污染的成因以及各因素在长期、短期过程中对其浓度变化的影响效应是大气污染防治的重要研究问题。由于PM2.5浓度受众多互不独立的因素影响,PM2.5浓度与其影响因素呈高度非线性关系,导致难以准确评估污染排放源、气象因素、二次无机盐生成对其浓度变化的效应和贡献。近期,基于数据驱动的机器学习方法在该问题上表现优异,在相关研究中应用较多。为深入探究机器学习方法结合高分辨率数据集分析PM2.5污染成因的可行性,本研究以在线观测数据为基础,通过PMF受体模型、ISORROPIA-II热力学模型、ERA-5再分析数据整合了多种类别的PM2.5影响因素。基于相关性分析和置换重要性计算,初步识别了PM2.5污染影响因素的重要性并比较了多种机器学习方法以及其他回归模型的适用性,引入表现最优的机器学习模型并耦合模型解释性方法探究了各因素对PM2.5浓度变化的影响效应,主要结论如下:（1）二次无机细颗粒物是观测区域PM2.5浓度变化的主要源类影响因素。二次硝酸盐是主导PM2.5浓度变化的主要源类。机器学习结果表明,高湿环境下的重污染过程中机动车排放源对二次硝酸盐的生成有显著影响效应。（2）温度是各季节中重要的气象因素。冬季气象因素对PM2.5浓度变化的效应大于其他季节,其中风速的影响效应在冬季上升显著。（3）观测期间发生的重污染过程中二次硝酸盐占比较高。机器学习结果能够较好的捕捉重污染过程中各时段的主导因素并量化其影响效应。本研究表明,机器学习方法能够准确地分析不同时段内PM2.5污染成因,为大气污染防治提供有效地分析手段。

关键词： 机器学习   肺癌分型   特征选择   数据清洗  

摘要： 据最新的癌症统计报告,我国肺癌死亡率高居榜首,肺癌死亡人数占到了癌症死亡病例的20%。随着国家经济社会的发展,中国癌症发病类型正在向发达国家主要类型转变,肺癌高发病率在男性群体中尤为突出。其中确诊病例中绝大部分病例为肺腺癌、肺鳞癌和小细胞肺癌,不同的肺癌类型有各自的特异性治疗方法,所以在治疗前需准确了解患者类型,对症下药。目前,临床使用的肺癌类型检测方法多为穿刺和手术提取组织等侵入式方法,侵入式方法存在并发症风险,为肺癌患者治疗造成不利影响。在数据信息呈几何式增长的当下,大量的医疗数据为数字化诊断提供了可能,建立一套完整的非侵入型肺癌亚型预测模型作为辅助诊疗手段具有十分重要的意义。本文基于国内某三甲医院记录的入院肺癌患者数据,提出了一种非侵入型肺癌类型诊断方案,使用机器学习方法对肺癌亚型进行预测,主要内容包含以下方面:(1)针对医学数据特点选用适当的数据预处理方法。医学数据具有杂乱的特点,数据记录不规范,数据缺失现象严重,甚至存在样本标签的缺失,这些问题为分类模型构建造成了巨大困难。本文使用K近邻插补方法对缺失值进行预处理,解决了数据缺失问题。其次,医学数据由于其发病率先验概率的原因,存在数据不平衡现象,本文使用SMOTE过采样方法对数据进行平衡化处理。(2)基于不同方法,选择最优特征子集。本文数据包含了患者诊断信息、化验指标、慢性病史等六十余项指标,针对不同的机器学习模型,所需要的特征也不尽相同。本文选择了三大类五小类特征选择方法进行特征提取,包括过滤式方法(相关系数法、互信息法、Relief-F等)、包裹式方法(向前选择、向后选择、全局搜索)和嵌入式方法(LASSO、岭回归)。(3)提出了基于机器学习方法的肺癌分型预测模型。文中选择了三种机器学习方法,包括支持向量机、随机森林和概率神经网络,结合特征选择方法来构建预测模型。文中选择准确率、召回率和AUC值作为评价指标,最终选择出随机森林结合Relief-F特征选择法具有更好的预测效果。

关键词： 软件缺陷预测   类不平衡   过采样   XGBoost  

摘要： 随着信息社会的发展和科技的进步,人们对软件系统的依赖逐渐加深,软件质量的可靠性保障越来越重要。软件缺陷预测作为检测缺陷模块的重要手段之一,可以通过对历史仓库的挖掘,描写与之相关的度量信息形成数据集,利用机器学习等方法对数据集进行学习,构建有效的预测模型。以测试出包含高缺陷的模块,对其进行检测,优化测试资源的分配。然而现实中有缺陷的数据样本较少,会导致机器学习训练后,更易将测试数据划分成多数类,在软件缺陷预测中严重影响模型的分类性能。因此采用一定的方法缓解类不平衡问题是很有必要的。本文主要工作有:(1)在数据预处理层面,为了利用缺陷数据自身周围分布的类别特性,以进行准确的过采样形成合理而平衡的数据集,本文提出了一种新的多层次自适应判断合成随机过采样方法AJCC-Ram(Adaptive Judgment Cure Clustering Random Sampling),该方法基于改进的ADASYN自适应过采样和CURE-SMOTE过采样,分别在类边缘和类中心多层次生成新样本形成平衡数据集,再通过CLNI进行平衡数据集的噪声过滤清理。实验在软件缺陷预测常用数据集AEEEM和NASA中与多种采样方法在朴素贝叶斯分类器中进行了对比,实验评价指标F1结果表明:AJCC-Ram方法可以获得更稳定,更高效的预测结果。(2)在算法分类方面,为进一步改善分类器在类不均衡数据中的分类效果,对XGBoost(e Xtreme Gradient Boosting)集成学习器进行了理论研究,并进行数据集AEEEM和NASA下的适度调参,将调参后的XGBoost集成学习器与各式机器学习分类器进行了对比实验研究,证明了XGBoost学习器的有效性。(3)在模型构建阶段,本文在上述的研究基础上,建立了一个基于过采样和集成学习的不平衡数据软件缺陷预测模型XG-AJCC(AJCC-Ram+XGBoost)。实验比较了AEEEM和NASA数据集在多个采样集成的不平衡数据处理中的应用。以评价指标F1值,表明了:XG-AJCC预测模型可以有效地降低数据不平衡对软件缺陷的预测影响,以获得更稳定,更高效的预测结果。

关键词： Robust Statistics   Machine Learning   Classification   Clustering   Differentially Expressed Gene   Transcriptomics   Minimum Beta-Divergence  

摘要： Machine Learning(ML)is the section of computational science that can receive input data and analyze with statistical computational algorithms to enable learning,thinking,and decision making as output beyond human *** learning approaches are enormously used in transcriptomic data analysis(TDA).The TDA is one of the prominent sections of OMICS research for *** microarray(continuous type data)and RNS-Seq(discrete type data)are the two fields of *** ML approaches are used in TDA mainly for classifying/clustering samples associated with genes/transcripts and to identify the genes/transcripts whose expressions differ between two or more experimental conditions known as differentially expressed(DE)*** in presence of outliers in the data,most of the classical machine learning classification or clustering approaches provides misleading *** this thesis,the robust statistical based machine learning approaches have been proposed for classification and clustering study in *** is a supervised learning approach for allocating unlabeled dichotomous patient samples into labeled dichotomous patient *** classification methods are clinical-based and therefore,their applications become limited with lower prediction *** Least Square Linear Discriminant Analysis(PLS-LDA)is one of the popular classifier for predicting unlabeled dichotomous patient *** has been widely used both in gene expression(GE)and metabolomics datasets for cancer diagnosis and drug ***,this method provides misleading results in presence of outlying data vector with classical maximum likelihood ***,we developed a robust PLS-LDA approach using the minimum beta divergence method(see Chapter 2).The proposed method produces a weight function known as beta-weight function for the detection of outlying data vector for the robust PLS-LDA *** proposed method outperformed in

关键词： 多因子选股   量化投资   XGBOOST   SVM  

摘要： 随着世界经济的高速发展,证券市场也更加完善和复杂,规模也在逐步增加,各式的投资种类层出不穷。量化投资是一个通过从历史数据中提炼有效经验,并把这些经验运用于指导未来的一个新投资方法,量化投资通过数学模型以及计算机来实现投资策略,从而获得较为稳定的超额收益。和传统投资方式不同,量化投资不受个人主观情感的影响,也因此能够保证投资逻辑的稳定性。多因子选股模型是较为经典的模型之一,该策略的主要思想是根据金融理论寻找一些影响股票收益的因子数据,通过模型利用相关因子筛选出能够获取超额收益的股票构建组合。随着人工智能快速发展,在处理高维数据时,广泛使用机器学习模型能取得较好的效果。因此本文构建了基于机器学习算法的多因子量化选股策略,在不同情况下分别进行回测,将回测结果进行对比。在量化多因子选股模型中,最重要的是解决因子池构建以及策略模型构建两大问题。针对这两个问题,在参考前人研究的基础上,本文从价值因子、成长因子等九个大类中选择了共51个因子作为初始因子构建因子池。在分类算法选择方面,本文选择了XGBOOST模型和SVM模型进行实验。本文选择沪深300指数成分股作为主要研究对象,选择2018年11月-2021年11月间每月最后一个交易日因子截面数据为主要样本数据,实验过程主要分为数据预处理与模型策略的建立,其中在数据预处理部分使用Lasso算法对特征因子进行降维处理,筛选出重要因子。为了使模型能够及时抓住市场的变化,本文采用了滚动训练的方式,不断重复进行训练。本文所建立的机器选股策略在2018年11月-2021年11间,最高的年化收益率达到59.31%,远超过同期沪深300指数表现(同期沪深300指数年化收益为:15.3%)。本文将策略在不同持仓数量、不同训练集长度、不同调仓周期的情况下加以比较分析,结果发现基于机器学习选股策略的表现差异很大。总的来说,当持仓数较少时,策略会有更高的收益,同时投资组合所承受的风险会越大。由于资本市场经常会出现风格切换,风格切换后可能会使前期的重要因子失效,合理选择训练集长度就十分重要,本文研究发现将模型训练集长度设置为9个月时,策略会取得更好的效果。策略模型调仓周期不能太长,调仓周期过长可能会使得投资组合错过某些重要行情,调仓周期设定成1-2个月较为合适。从整体上看,在本文所选因子的前提下,XGBOOST模型策略效果要优于SVM模型策略效果。