关键词： Variable annuity   Johnson curve   Machine learning   Dollar delta   VaR  

摘要： Variable annuity (VA) with embedded guarantees have rapidly grown in popularity around the world in recent years. Valuation of VAs has been studied extensively in past decades. However, most of the studies focus on a single contract. These methods can be extended neither to valuate nor to manage the risk of a large variable annuity portfolio due to the computational complexity. In this paper, we propose an efficient moment matching machine learning method to solve this problem. This method is proved to be a good candidate for risk management in terms of the speed of and the complexity of computing the annual dollar deltas, VaRs and CVaRs for a large variable annuity portfolio whose contracts are over a period of 25 years. There are two stages for our method. First, we select a small number of contracts and propose a moment matching Monte Carlo method based on the Johnson curve, rather than the well known nested simulations, to compute the annual dollar deltas, VaRs and CVaRs for each selected contract. Then, these computed results are used as a training set for well known machine learning methods, such as regression tree, neural network and so on. Afterwards, the annual dollar deltas, VaRs and CVaRs for the entire portfolio are predicted through the trained machine learning method. Compared to other existing methods Bauer et al. (2008);Gan (2013);Gan and Lin (2015), our method is very efficient and accurate. Finally, our test results support our claims. (C) 2017 Elsevier B.V. All rights reserved.

关键词： Reliability prediction   Machine learning   Censored data   Weibull distribution  

摘要： The reliability estimation of engineered components is fundamental for many optimization policies in a production process. The main goal of this paper is to study how machine learning models can fit this reliability estimation function in comparison with traditional approaches (e.g., Weibull distribution). We use a supervised machine learning approach to predict this reliability in 19 industrial components obtained from real industries. Particularly, four diverse machine learning approaches are implemented: artificial neural networks, support vector machines, random forest, and soft computing methods. We evaluate if there is one approach that outperforms the others when predicting the reliability of all the components, analyze if machine learning models improve their performance in the presence of censored data, and finally, understand the performance impact when the number of available inputs changes. Our experimental results show the high ability of machine learning to predict the component reliability and particularly, random forest, which generally obtains high accuracy and the best results for all the cases. Experimentation confirms that all the models improve their performance when considering censored data. Finally, we show how machine learning models obtain better prediction results with respect to traditional methods when increasing the size of the time-to-failure datasets.

关键词： 降水估计   降水预报   机器学习   加权随机森林   不平衡数据采样   标签分布学习  

摘要： 精准的降水估计与预报要求时空高分辨率与定量高精度，对水文监测、洪涝减灾、环境治理、科研活动、工农业生产、电力系统等方面具有重要意义。由于非线性的动态天气系统具有高度不确定性，传统基于物理模型和统计分析的气象方法在降水估计与预报中存在性能瓶颈，难以满足高分辨率条件下的精度要求，如何提升降水估计与预报的精准性在研究和应用领域都具有挑战性。随着气象技术的进步，中国现已建成覆盖全国的雷达、卫星、地面气象要素监测网络并发展了多样的数值模式预报，积累的气象数据呈爆炸式增长，为采用机器学习方法处理气象问题带来了机遇。因此，亟需研究新的机器学习方法，通过数据驱动的方式结合气象领域先验知识有效地挖掘气象大数据提升降水估计与预报准确性以满足应用需求。\n 本论文旨在回答精准降水估计与预报需要解决的三个关键问题，包括:定量降水估计、降水相态识别以及降水集合预报。本文从气象问题出发，研究了随机森林、不平衡数据采样、标签分布学习用于上述问题的方法。针对定量降水估计，提出了基于地形的加权随机森林(Terrain-based Weighted Random Forests，TWRF)方法，利用高分辨率雷达观测数据，考虑有效表征降水特点的雷达反射率垂直廓线在不同高度层的特征重要性，建立回归模型，并在建模中考虑了地形对降水的影响，提升了定量降水估计的准确性;针对降水相态识别，提出了基于马氏距离的适应性过采样(Adaptive Mahalanobis Distance-based Over-sampling，AMDO)方法，通过为分类器有效合成新样本应对降水相态识别中存在的多类、混合类型特征、混叠以及不平衡问题，提升了降水相态识别的准确性;针对降水集合预报，提出了基于气候概率的标签分布学习(Label Distribution Learning with Climate Probability,LDLCP)方法，利用多源数值模式预报，考虑天气系统的不确定性、气候在概率意义上的相似性以及预报变量之间的关联性，通过标签分布学习建立优化模型并给出相应的预报方法，提升了降水集合预报的准确性。以上三种方法在实际数据集及公开数据集上与当前主流的气象方法和相关的机器学习方法对比，取得了显著的性能提升，并已在业务中部署应用，为公众提供气象服务。\n 主要工作和创新点如下:\n (1)提出了一种基于地形的加权随机森林降水估计方法(TWRF)。针对雷达定量降水估计性能不佳，该方法首先扩展雷达特征为整个反射率因子垂直廓线，进而提出加权随机森林回归模型改进传统随机森林，以随机决策树中节点拆分时的特征被选概率反映不同高度处理想条件的满足程度，并提出基于地形的建模策略，考虑了地形增强效应，有效提升复杂地形区域的降水估计效果。在实际降水过程上的实验表明:所提方法在偏差率、均方根误差、平均绝对偏差、平均偏差以及相关系数等评价指标上均优于对比方法。本方法中提出的数据处理、模型训练和测试的执行流程已工程化实现，形成气象产品。\n (2)提出了一种基于马氏距离的适应性过采样相态识别方法(AMDO)。针对降水相态识别少类精确率低，该方法提出推广已有的基于马氏距离的过采样方法应对相态识别这种含有混合特征、带混叠的多类不平衡问题，进而提出部分平衡重采样并优化适应于主成分空间的采样，改善采样策略并提升采样效率，计算复杂度近似为O(Nlog(N))。在15个公开数据集以及2个实际数据集与主流方法进行对比，结果证实了所提方法处理多类不平衡问题的优越性，对相态识别提升了43.74％的少类精确率以及10.84％的平均精确率。本方法中提出的采样与多分类执行流程已工程化实现，形成气象产品。\n (3)提出了一种基于气候概率的标签分布学习集合预报方法(LDLCP)。针对降水集合预报效果较差，该方法首次将集合预报问题形式化为标签分布学习问题，不依赖分布假设，优化预报分布与气候概率一致，进而提出新的针对回归问题的损失函数用于集合预报，并提出采用联合预报变量与相关变量共同建模，提升了模型的可解释性与预报能力。在实际降水集合预报数据上与主流方法的对比实验表明:所提方法取得了最优效果，对于降水预报降低了43.9％的均方根误差以及37.4％的平均CRPS。本方法提出的集合预报数据组织、处理、模型参数优化和预报输出的执行流程已工程化实现，正在试点应用。

关键词： 股票市场   涨停预测   分类算法   随机森林   支持向量机   BP神经网络  

摘要： 本研究在系统性地综述了国内外量化投资发展状况与机器学习分类算法在量化投资应用研究成果的基础上，着重阐述了BP神经网络、随机森林、支持向量机三种监督性分类算法的概念与原理，结合2014年年初以来我国A股市场新股上市之后所呈现的连续一字涨停板现象，首创性地将各分类算法应用于预测新股开板后当日能否再次封住涨停板的应用场景中;在界定了具有“IPO后打开一字涨停板当天能够重新封住涨停板”特征的新股样本作为分类预测对象的同时，较为深入地结合了股市基本面分析框架，选择了上市公司的规模、估值、盈利等自身的特质变量以及市场或行业热度及风格转换等不同维度与类型的外部市场变量构建了七个样本输入特征对各分类模型进行了监督性训练及参数优化，筛选出了三种算法在本研究情境下的最优参数模型，构建了一套完整的基于这三个分类预测模型的新股开板后博求再封板的短期交易策略，并对不同参数维度下的新股交易策略进行了样本内回溯测试与样本外模拟交易测试，主要得出了以下几点结论与新股短期交易建议:1.从交易策略的标的选择上看，若不对打开一字涨停板的新股进行一定的过滤而直接对所有新股在打开涨停板后均进行短期追多投机交易，从长期来看是一个大概率会造成净值亏损的交易策略，而若能够有效地筛选出本研究所界定的“在打开涨停板当日能够再次封住涨停板”特征的新股且仅对这部分新股进行短期追多交易，则能够获得较高的收益风险比。2.对于任意新股，买入后不宜持有过长时间，在1-3个交易日内选择股价高点进行择机卖出该新股是较为合理的操作方案。3.三个模型预测表现方面，最优参数下的随机森林对样本内与样本外的预测准确度皆为三者中最高，具有良好的抗过拟合特性。在犯错误预测类型方面，最优参数下的随机森林犯“弃真”错误的概率显著低于支持向量机与BP神经网络，而最优参数下的支持向量机犯“取伪”错误的概率则显著低于随机森林与BP神经网络。4.在本研究构建的7个特征变量中，“开板前所属行业热度”、“开板前所属指数板块热度”以及“招股说明书中的业绩预告”等变量对分类预测的方差贡献度较高，其余变量则相对较低。

关键词： 母离子信息   检测算法   质谱数据   机器学习  

摘要： 基于质谱技术的蛋白质鉴定方法已经成为蛋白质组学研究中的主流方法，而分析质谱数据的常用方法主要是数据库搜索技术。在数据库搜索中，肽段母离子信息的准确性决定着鉴定结果的有效性。但是，目前领域内仍然缺少一种有效地检测母离子信息并校正母离子质量的数据预处理算法。\n 目前已有的pParse2.0算法可以检测并校正母离子信息，同时支持多种不同的质谱数据类型。pParse2.0基于通用的机器学习框架开发，主要包含谱图预处理以及候选母离子生成、特征提取、粗打分过滤和机器学习方法过滤四个步骤。pParse2.0使用pFind2.8限定式搜索结果标注母离子的正负样例，然后利用多元自适应样本回归样条(MARS)技术训练得到离线模型，对测试数据在线提取9维特征，利用MARS模型对母离子进行分类。\n 本文在pParse2.0的基础上，进一步探索提升母离子检测算法性能的方法，开发了pParse2.2。主要有以下五个创新点:1）使用pFind3.0开放式搜索结果标注母离子的正负样例。与限定式搜索引擎相比，开放式搜索引擎拥有更高的灵敏度，可以更加准确地标注负例。2）使用新的训练数据Mann-Mouse。与pParse2.0使用的Mann-Hela数据相比，使用Mann-Mouse数据训练的模型在相同导出倍数下具有更高的母离子召回率。3）添加两个新特征。在所有特征中具有比较重要的地位，提高了模型的召回率。4）尝试用SVM模型代替MARS模型，以此简化开发流程。在适当增加导出倍数的情况下，SVM模型具有与MARS模型相近的召回率。5）设计新的评测方案，对母离子检测算法的性能进行全面评估。评价标准主要包括灵敏度、速度、校正后的母离子的一致性以及母离子检测算法对不同种类搜索引擎解析率的影响等。\n 本文在四组数据上分别构建了标注全集(W)，并将其划分为两类:目标标注集（T）和扩展标注集(E)。在这三种标注集上评测软件的性能，实验结果表明:1）pParse2.2具有较高的灵敏度。在标注集W、T和E上分别平均召回约95％，99％和83％的母离子。2）在不同导出倍数下，pParse2.2的召回率均高于pParse2.0。与pParse2.0相比，当导出倍数设置为1倍时，pParse2.2在三种标注集上的平均召回率分别提高了1.6，2.0和0.4个百分点;当导出倍数设置为2倍时，pParse2.2在三种标注集上的平均召回率分别提高了0.9，0.6和1.6个百分点。3）pParse2.2与其他母离子检测软件相比，灵敏度优势明显。与MaxQuant和Hardkl(o)r相比，pParse2.2在标注全集上的平均召回率分别高出17.6和18.6个百分点，在扩展标注集上的平均召回率分别高出27.7和50.3个百分点。4）pParse2.2也可以提高数据库搜索引擎的解析率。在三个常规数据库搜索引擎上多鉴定了至少60％的PSMs;在分析交联和糖肽数据的搜索引擎上分别多鉴定了48.5％和26.7％的PSMs。\n 总之，pParse2.2能有效地从多种类型的数据中提取准确的母离子信息，在常规的质谱数据分析中将会被广泛应用。

关键词： 正电子发射断层扫描图像   图像分割   特征提取   机器学习  

摘要： Positron-emission tomography(PET)全称正电子发射断层扫描，是一种核医学功能成像技术。对于患癌病人来说，正常组织新陈代谢活动强度低，肿瘤组织新陈代谢活动强度高。通过PET图像可以观测人体内部组织的新陈代谢活动强度分布，从而辅助肿瘤病变的早期诊断。因此，对PET图像中的肿瘤区域进行准确的分割就具有重要的临床意义。然而，PET图像本身具有低分辨率，边缘模糊以及异质性等特点，这都给PET图像分割带来了较大的阻碍。传统PET分割方法多使用阈值、梯度、图模型以及活动轮廓模型等，结果都不尽如人意。本文采用有监督的机器学习方法如深度学习等来进行PET图像分割。\n 对于传统机器学习算法来说，特征提取是学习算法发挥作用的重要环节，有特征工程之称。本文提取的手工特征主要包含灰度、梯度、均值、中值、灰度直方图、基于灰度共生矩阵的纹理特征等。为了提升分割结果，本文进行了特征选择和多模型融合。特征选择用于保留适于分类器的特征，模型融合用于提升分割结果。\n 深度学习方法相较于传统机器学习算法最大的优点在于其能自动学习原始数据的有效特征，避免了手工特征设计的盲目性。另外深度学习实现特征学习和分割任务的同步执行，是一种端到端的高效分割方法。本文采用了医学图像分割中最常用的三维全卷积神经网络，配合softmax损失函数进行PET图像分割。本文还实现了支持向量机（SVM）和网络的联合训练，提升了分割结果，并对不同损失函数对PET图像分割的影响进行了研究。为了增加手工特征的判别力并提升PET图像分割精度，本文也提出了基于卷积神经网络的手工特征偏移学习。\n 为了提升深度特征的判别力，本文基于center-loss设计了三种特征判别损失：类内特征距离损失intra-class-loss、类间特征距离损失inter-class-loss以及指数类内特征距离损失exp-intra-class-loss。这些损失都能够帮助深度学习方法提升PET图像分割精度。为了解决PET图像的肿瘤和背景之间的过渡区域的模糊所造成的两类之间的特征判别力低以及分割结果的不确定性，本文利用马尔科夫随机场的思想将PET图像的空间信息同深度学习结合起来，提升了PET图像过渡区域的特征的判别力以及分割结果精度。

关键词： 网格降噪   分区邻域   法向描述符   机器学习  

摘要： 三角形面片网格的降噪在图形学及相关工业中具有重要意义。它可以看作是在特定要求下更新顶点位置。直接计算新的顶点位置并不容易，通常方法是先估计面片法向，再更新顶点位置。此时问题的关键在于尽量准确估计降噪后面片的法向。传统方法大多是用面片邻域内某些面片的法向加权平均值作为该面片的新法向。然而这样估计的面片法向与原模型相应面片法向偏差较大，无法良好保持模型特征。对不同种类的模型又需做不同处理。这增加了降噪的复杂度和难度，浪费了人力。随着人工智能浪潮的高涨，人们提出了一些数据驱动的网格降噪方法，但已有方法仍存在无法良好保持细小特征的问题。\n 对此，本文提出了新的方法，能够更好地进行网格降噪并且更好地保持网格特征。本文首先设计了面片的分区邻域，以从不同方向区分面片周围的局部形态。其次提出了区域法向、法向熵、平滑指数等概念，以此来描述和衡量每个分区邻域内面片法向的状态。同时提出了更精细的权值函数来区分面片之间法向量的差异，更利于网格特征的保持。接着提出了基于分区邻域的法向描述符，从不同方向描述了面片的局部形态，有利于在降噪的同时更好地保持网格的细微特征。它减少了计算所需面片数量并且不含需要人为调节的参数，简化了计算过程，节省了计算成本和人力成本。最后结合机器学习的方法，运用人工神经网络预测面片在降噪后的法向，以此更新网格顶点位置，实现网格降噪。这可以充分发挥计算机的运算能力，节省人力。\n 本文分别对特征尖锐与特征平缓的两类网格进行了实验，并与其它方法进行了比较。结果表明本文方法具有更好的降噪效果与更好的保持特征的效果。

关键词： 机器学习   信用评估   支持向量机   集成学习  

摘要： 由于中小企业规模较小、行业分散、收益不稳定、抵押条件不足、存在一定风险等原因,多年来一直面临融资难等问题。而融资难从根本上来说是中小企业与金融机构之间的信息不对称。如何合理的评估中小企业的信用状况对于解决融资难问题起着关键性作用。本文实证分析对比了各类评估方法,结果表明,基于支持向量机的bagging集成算法具有较低的错误分类率,能更好的适应中小企业信用评估。

关键词： 支持向量机   K近邻算法   阈值   非平衡数据   遗传算法  

摘要： 大数据时代,具有多维海量特征的电力、医疗等行业的分类数据往往是不平衡数据,少数类样本的分类往往伴随着很大的错分代价。对于不同的数据集,数据样本点分布特征也会影响分类器的分类精度。传统的KSVM分类器增加了分类超平面附近易错分点的有效分类信息,但与此同时引入了更多噪声。针对KSVM算法应用在不平衡数据时阈值固定的缺陷,提出一种动态调整阈值的ε-KSVM分类器,降低错分信息的引入。实验表明预测精度得到较大的提升。

关键词： Dementia   Machine learning   Diagnosis   Low- and middle-income countries  

摘要： There are limited data on the use of artificial intelligence methods for the diagnosis of dementia in epidemiological studies in low- and middle-income country (LMIC) settings. A culture and education fair battery of cognitive tests was developed and validated for population based studies in low- and middle-income countries including India by the 10/66 Dementia Research Group. We explored the machine learning methods based on the 10/66 battery of cognitive tests for the diagnosis of dementia based in a birth cohort study in South India. The data sets for 466 men and women for this study were obtained from the on-going Mysore Studies of Natal effect of Health and Ageing (MYNAH), in south India. The data sets included: demographics, performance on the 10/66 cognitive function tests, the 10/66 diagnosis of mental disorders and population based normative data for the 10/66 battery of cognitive function tests. Diagnosis of dementia from the rule based approach was compared against the 10/66 diagnosis of dementia. We have applied machine learning techniques to identify minimal number of the 10/66 cognitive function tests required for diagnosing dementia and derived an algorithm to improve the accuracy of dementia diagnosis. Of 466 subjects, 27 had 10/66 diagnosis of dementia, 19 of whom were correctly identified as having dementia by Jrip classification with 100% accuracy. This pilot exploratory study indicates that machine learning methods can help identify community dwelling older adults with 10/66 criterion diagnosis of dementia with good accuracy in a LMIC setting such as India. This should reduce the duration of the diagnostic assessment and make the process easier and quicker for clinicians, patients and will be useful for 'case' ascertainment in population based epidemiological studies.