关键词： 代谢稳定性   机器学习   体内   体外   半衰期  

摘要： 药物代谢的稳定性作为一个药物的关键性质,是极其重要的,决定了药物药代动力学的主要性质。因此为了降低在临床阶段由于候选药物的代谢不稳定或稳定而带来高成本的风险,建立一套有效的和可靠的方法in silico预测药in vitro的代谢稳定性和in vivo的药代动力学相关参数,具有重要的实际意义。而随着大量的体外、体内实验分析的数据累积,以及相关数据库的构建及高质量的数据整理,目前建立in silico的预测模型的条件已经具备。特别是应用机器学习相关技术,由于其在处理多样性结构下及复杂问题中的优秀表现,特别适用于药物的代谢稳定性和药代动力学指标的分类和预测。然而,基于机器学习方法在体外、体内代谢稳定性的预测仍然有很多急需要解决的问题。通常这些模型的内部验证很好,外部预测效果不理想,即模型的泛化能力很差。主要的原因是两方面:第一,没有抓住关键的特征,而采用了过多的特征导致模型太过复杂,存在可能的过拟合而导致模型扩展能力变差;第二,由于有限的训练样本数目导致训练集缺乏代表性。因此,在本论文的第一次研究中,我通过使用新的特征选取方法,构建了预测化合物体外血浆稳定性的支持向量回归(SVR)模型。在特征的选取中,发现合理恰当的选取描述符以及描述符的个数,可以大大提高模型的外部预测性能,同时借助核主成分分析(KPCA)方法显示不同描述符组合下在高维空间的线性可分情况,进一步说明了特征选取的重要性。这可能会为其他模型的建立提供帮助。最后建立的人血浆体外稳定性模型可以为in silico体外预测提供便利的帮助,同时筛选出与稳定性非线性相关的重要描述符和分子指纹,为前药和软药的设计提供思路。在本文的第二次实证研究中,选取了in vivo的药代动力学参数——药物的半衰期作为研究对象。首先为了扩大训练集样本数目和结构的多样性,通过广泛的数据搜集,获得了据我所知最大数据集的药物半衰期数据。之后分析了哪些分子描述符和外部因素对半衰期有较大的影响,其次使用经典的机器学习方法朴素贝叶斯分类器和递归分割来建立预测模型识别药物半衰期的长短,同时探究了不同分子指纹和描述符组合下的预测性能,最后建立的贝叶斯推断模型具有一定的识别能力。这些模型与方法为设计合成以及在临床实验前确定药物的半衰期有重要参考价值。

关键词： 在线品牌忠诚度   度量   机器学习   模型构建   模型优化  

摘要： “十三五”规划明确提出坚持扩大内需战略,充分挖掘我国内需的巨大潜力,拓展新型消费业态。尤其是在以互联网经济为代表的“新经济”背景下,在线消费作为新型消费业态的代表正逐渐改变着人们的消费观念和方式,在线品牌忠诚在在线消费领域具有极其重要的地位,对于刺激消费和实现企业精准营销、风险管控、决策支持、效率提升和产品设计等商业模式、商业形态甚至商业思维方面的变革,提升企业在在线领域的竞争力具有极其重要的意义。应用科学有效的机器学习方法对在线品牌忠诚进行系统分析和研究具有迫切性和必要性。在大数据环境下,面对在线消费提供的海量数据信息,传统的技术方法已逐渐无法满足企业创造和维持品牌忠诚的竞争需求。突出表现在传统随机采样方法很难定位具有高品牌忠诚度的消费群体;同时,传统的数据处理技术也无法处理具有海量、混杂和非结构化数据特性的在线消费行为。在面对庞大量级的在线数据,以及如何实时利用在线数据锁定品牌消费群体的需求时,传统的方法具有局限性。本研究的目的就是构建一个在线消费大数据时代下的人工智能模型——机器学习模型,通过机器学习方法,对在线消费者的品牌商品购买行为进行聚类,构建在线品牌忠诚度度量模型,实现具有相似忠诚度的用户的聚类,同时实现在线品牌忠诚度的度量。其中,重点研究机器学习路径、机器学习算法、模型构建方法,以及模型的检验与优化方法。本研究围绕理论研究——模型设计——模型优化的思路,主要完成以下研究工作:(1)在对品牌忠诚度理论进行国内外研究现状综述的基础上,对在线品牌忠诚度大数据特性和在线品牌忠诚度度量的机器学习方法进行论述。(2)构建在线品牌忠诚度度量模型是本研究的主体,研究过程遵循在线品牌忠诚度度量的机器学习路径展开。主要包括:1)品牌忠诚度度量的在线数据采集,即通过设计在线数据采集模型和爬虫算法对品牌忠诚度度量相关的在线数据进行采集。2)品牌忠诚度度量的在线数据清洗,即通过设计在线数据检测算法对品牌忠诚度度量的在线数据进行检测;通过设计在线数据清洗算法对品牌忠诚度度量的在线数据进行清洗。3)品牌忠诚度度量的机器学习方法建模,即根据特征选择依据和特征指标定义,通过设计算法完成模型所需的特征构建;在对品牌忠诚度度量模型和模型聚类进行数学定义的基础上,通过设计聚类算法实现模型构建。4)品牌忠诚度度量模型检验,即根据内部有效性指标和外部有效性指标定义,通过设计内部有效性检验算法实现模型内部有效性检验;通过设计外部有效性检验算法实现模型外部有效性检验。(3)对在线品牌忠诚度度量模型进行优化是本研究的重点。主要研究工作包括通过数据处理优化、特征工程优化和算法调整优化得到最优模型,并从实现在线品牌忠诚度相似用户聚类和实现在线品牌忠诚程度界定两个方面对最优模型进行评价。本研究的创新点主要包括:(1)针对以大数据处理、大数据价值挖掘和以互联网经济为代表的“新经济”下的在线品牌忠诚度大数据的特性;以及由此带来的在线品牌忠诚度数据分析方式、分析思维、分析技术产生颠覆性变革;在线品牌忠诚度数据生成的多种因素影响;在线品牌忠诚度数据分析的模型和算法高复杂性等方面,首次进行了系统深入的挖掘和剖析,为以互联网经济为代表的“新经济”下的在线品牌消费行为及忠诚度的进一步研究奠定了基础。(2)提出机器学习方法用于在线品牌忠诚度度量的思路,并实现应用机器学习方法对在线品牌忠诚度模型进行构建,其模型定义在借鉴数据挖掘领域的多维数据立方体概念的基础上进行了改进,进一步拓展了机器学习方法的经济应用领域。(3)通过全数据分析模式,即样本等于总体的大数据分析模式,实现在线品牌忠诚度相似用户聚类以及在线品牌忠诚程度界定,突破了传统随机采样方法在定位具有高品牌忠诚度消费群体以及传统的数据处理技术处理具有海量、混杂和非结构化数据特性的在线消费行为的局限性。(4)品牌忠诚度度量模型优化是本研究的重点。其中,特征工程优化是模型优化的核心。而对于聚类方法,存在特征工程适用性问题,本研究在借鉴相关方法思路基础上对具体的特征选择方法进行调整和改进,使其更好的适用于模型优化,具有创新性。

关键词： 光电转化效率   级联模型   机器学习方法   支持向量机   B/S模式   JSP技术  

摘要： 太阳能电池光电转化效率是评价太阳能电池性能的一项重要参数,精确地预测光电转化效率对提高染料敏化太阳能电池性能具有重大的意义。但是由于电池器件的结构复杂,很难通过量子化学方法从分子结构机理得到光电转化效率的实验值。应用智能计算方法可以避开量子化学方法复杂的反应过程,因此,可以用量子化学方法计算敏化染料分子的物理化学性质,然后基于智能计算方法来建立分子物化性质及结构性质与光电转化效率之间的回归模型,得到光电转化效率的预测值。本文的主要工作是利用量子化学B3LYP方法在STO-3G和6-31G(d)基组上计算染料分子基态以及激发态的物理化学性质,然后利用支持向量机(SVM)结合5种特征选择方法(多元线性回归、顺序前向搜索、顺序后向搜索、+N-n方法和平均影响值)建立分子物化性质、结构性质与光电转化效率之间的回归模型。本文以短路电流(Jsc)、开路电压(Voc)和填充因子(FF)作为桥梁连接分子描述符与光电转化效率(PCE)之间的关系,建立级联回归模型,通过良好的模型评价准则作为理论支撑,基于B/S模式使用JSP语言,开发了太阳能电池光电转化效率预测系统。本预测系统能够精确预测PCE,从而修改分子结构,进一步提高染料分子的光电转化效率,最后可将设计得到的分子进行合成和器件研究。

关键词： 机器学习   分类   疾病诊断   支持向量机   特征选择  

摘要： 分类是机器学习的主要任务之一。生活中的一些决策问题便可以看作分类问题,比如与人们健康紧密相关的疾病诊断。分类算法将会从训练样本中训练合适的模型从而给出更加智能的结果,辅助医生进行诊断。然而针对某种疾病,直接使用某种分类算法做出决策,可能并不能达到理想的效果,因为各种分类算法在不同数据集上的分类效果存在差异,即不存在一种分类算法在任何数据集上的表现,均优于其他分类算法。鉴于疾病诊断对于准确率有非常高的要求,如何构造具有强泛化能力的分类诊断模型,成为机器学习在这一领域的研究重点。本文主要针对某些疾病,研究构造具有更高分类准确率的分类诊断模型,从而为疾病诊断提供更加准确的结果。通过比较K-近邻(KNN),Logistic回归和支持向量机(SVM)等监督分类算法在乳腺癌和糖尿病数据集上的分类准确率,找出更适合乳腺癌和糖尿病诊断的分类诊断模型。在此基础上,针对冗余特征对分类准确率的影响,提出一种集成混合特征选择和线性SVM的乳腺癌诊断模型,进一步提高了乳腺癌诊断的准确率;针对网格搜索对高斯核SVM参数优化效果不佳的问题,提出一种集成改进的加速粒子群优化算法和高斯核SVM的糖尿病诊断模型,提高了糖尿病诊断的准确率。本文主要贡献和研究成果如下:(1)通过比较K-近邻(KNN),Logistic回归和支持向量机(SVM)等分类算法对于乳腺癌和糖尿病的诊断准确率,发现线性SVM对于乳腺癌的诊断获得了最高的准确率,而高斯核SVM对于糖尿病的诊断准确率更高,这些内容是进行后续研究的基础。(2)针对冗余特征对训练时间和分类准确率的影响,提出一种结合相关性与序列选择的混合特征选择方法,结合线性SVM,构建出集成混合特征选择和线性SVM的乳腺癌诊断模型,进一步提高了线性SVM对于乳腺癌诊断的准确率。(3)针对参数对高斯核SVM性能的影响,对加速粒子群优化算法进行了改进,提出一种集成改进的加速粒子群优化算法和高斯核SVM的糖尿病诊断模型,进一步提高了高斯核SVM对于糖尿病诊断的准确率。

关键词： 可转债估价   机器学习方法   随机森林  

摘要： 本文首先通过基于股价的单因素模型对当前在市场流通的全部13只可转债进行了实证分析,发现根据此模型计算出的理论价值普遍高于市场价格,这也与很多前人的研究结论相符。这说明所用定价模型并不完全适应于我国的可转债市场,我国的可转债市场机制与假定条件并不与国外完全相符。运用此单因素模型计算可转债的定价存在很明显的误差。接着,基于此模型不可避免的缺陷,本文尝试转换思路,跳出公式模型的禁锢,从机器学习的角度,开展可转债估价问题探索。通过机器学习方法对无法做任何假定的错综复杂的可转债价格影响因素进行分析,所选影响因素几乎涵盖所有方面。通过几种常用的机器学习方法作比较,得出结论为:对于可转债价格估价,运用随机森林的方法最好,五折交叉验证的训练集NMSE低至0.009,测试集NMSE也低至0.046。进一步选择随机森林模型对13只可转债进行价格估计,估价效果明显优于基于股价的单因素模型。这种拟合与预测效果可能比任何一种基于公式模型计算出的可转债估价都要理想。因此,在实际可转债估价运用中,可以运用随机森林回归方法得到相应模型,对新的数据进行预测来得到可转债的估价。

关键词： 重组热点冷点   DNaseⅠ高敏位点   深度稀疏自编码   交叉验证   主成分分析  

摘要： 随着生物技术的不断发展,尤其是人类基因组计划实施以来,通过高通量基因的测序手段得到了大量生物信息数据,如何解读和挖掘这些序列信息显得日益迫切,探索出基于机器学习方法对DNA序列的性质、属性以及功能进行分析的模型是至关重要的。本文主要研究人类基因重组位点及DNase I高敏位点(DHSs)的预测问题,工作包括以下几个方面:1)介绍了几种常用的特征提取方法,概述了近年来机器学习方法在DNA功能位点预测的研究进展,归纳了几种常用的机器学习方法,如支持向量机、随机森林、深度稀疏自编码器、隐马尔科夫模型分类法、贝叶斯分类算法等,并对分类算法的评价指标进行了系统分析。2)对人类基因序列的减数重组冷热点进行了分析和预测。基因重组对于生命过程有着重要意义,它能够交换遗传信息,促进生命的进化。本文利用三核苷酸密码子编译氨基酸来表达DNA序列全局性的顺序信息,并基于氨基酸的物理化学属性,结合二联核苷酸成分和伪氨基酸成分将DNA序列转化为DNA离散化模型,再采用SVM建立预测器,用jackknife交叉验证方法证明建立的预测器的效果比现存预测器都有较大提高。为了提高其实际应用价值,也为了方便绝大多数实验学者,我们创建了在线预测网站。3)对DNase I高敏位点进行了分析和预测。DHSs是DNA调控元件的显著标记,大多碱基修饰和调控活动都离不开DHSs富集的调控元件参与。因此分析和定位全基因组DHSs,对于分析基因的转录调控功能有着重要的意义。本文首先通过核苷酸频率分析探讨DHSs与碱基的联系。接着,分别用基于自协方差函数与互协方差函数、主成分分析法(PCA)及基于三联核苷酸的物理化学属性三种不同方法提取DNA序列特征构建分类模型,通过交叉验证测试方法证明了方法的有效性。4)最后,对本文的研究工作进行总结,并对今后的研究工作进行了展望,包括特征提取方法和分类算法的完善与改进、DNA的结构信息的提取、DNA其他功能问题的进一步分析与探讨等。

关键词： Leg -- Physiology   Machine learning   Polysomnography   Electromyography   Random forest (Algorithms)   Logistic regression analysis   K-nearest neighbor classification  

摘要： The number of channels used for polysomnographic recording frequently causes difficulties for patients because of the many cables connected. Also, it increases the risk of having troubles during recording process and increases the storage volume. In this study, it is intended to detect periodic leg movement (PLM) in sleep with the use of the channels except leg electromyography (EMG) by analysing polysomnography (PSG) data with digital signal processing (DSP) and machine learning methods. PSG records of 153 patients of different ages and genders with PLM disorder diagnosis were examined retrospectively. A novel software was developed for the analysis of PSG records. The software utilizes the machine learning algorithms, statistical methods, and DSP methods. In order to classify PLM, popular machine learning methods (multilayer perceptron, K-nearest neighbour, and random forests) and logistic regression were used. Comparison of classified results showed that while K-nearest neighbour classification algorithm had higher average classification rate (91.87%) and lower average classification error value (RMSE = 0.2850), multilayer perceptron algorithm had the lowest average classification rate (83.29%) and the highest average classification error value (RMSE = 0.3705). Results showed that PLM can be classified with high accuracy (91.87%) without leg EMG record being present.

关键词： 不平衡数据   欠抽样   集成学习   代价敏感   决策树  

摘要： 现实世界中广泛存在不平衡数据,其分类问题是数据挖掘领域的一个研究热点。传统的分类算法以整体预测精度为训练目标,导致多数类预测精度高,少数类预测精度差。而在手机换机预测这一实际应用中,少数类样本即换机用户的分类正确率更为重要,因此如何改善类间样本的不平衡,增加少数类的识别率,同时兼顾多数类的准确度,是亟需解决的一个问题。目前在不平衡数据分类问题上有两种常用的处理方法。一种是算法层面,通过设计新算法或改进原有分类算法使其对不平衡数据有效。另一种是数据层面,通过改变训练集的样本分布来消除或减弱数据的不平衡程度。本文针对不平衡数据分类问题,以手机换机预测为应用背景,在算法层面和数据层面做了如下工作:1.在算法层面,提出一种分级式代价敏感决策树算法。首先利用粗糙集对原始数据进行属性约简并计算各属性重要度,然后根据属性重要度和专家经验知识对属性分块建立分级结构,最后以基尼系数和误分代价为分裂标准构建代价敏感决策树,作为每一级的基分类器,形成分级式代价敏感决策树模型。实验结果表明,该算法既可以直接对原始数据集进行处理,保证了信息的完整性,又能有效处理欠抽样后平衡的数据集,有效缩小了问题的求解规模,且此算法在一定的不平衡度内具有较好的稳定性。2.在数据层面,提出一种基于样本权重的欠抽样方法,该方法引入了样本权重来反映样本所处的区域,首先根据各类样本的数量初始化各样本权重,并通过多次聚类对各个样本的权重进行修改,权重小的多数类样本即处于多数类的中心区域;然后按权重大小对多数类样本进行欠抽样,使位于中心区域的样本较容易被抽中,并与所有少数类样本组成Bagging成员分类器的训练数据,得到若干个决策树子分类器;最后根据各子分类器的正确率进行加权投票生成预测模型。实验结果表明,该方法充分利用了少数类和多数类的分布信息,抽样所得样本较好地保持了多数类信息,同时有效缩小了数据集规模,提高了分类器的分类性能。

关键词： 数据挖掘   热带气旋路径   热带气旋频数   有限混合模型算法   CART算法   C4.5算法  

摘要： 热带气旋(TC)的路径很大程度上决定了TC的影响区域及TC的影响范围。TC频数的高低直接影响到国家沿海经济带的经济建设、社会的发展以及人民群众的生命财产安全。而TC的活动是一种非常复杂的自然现象,因此对于TC活动规律的研究一直都是气象学界的热点问题之一。基于TC路径数据集及气候信号数据集的挖掘,不仅能发现TC频数与人们已知气候信号之间的关系,更重要的是为人类的生活生产,国家社会的建设提供更为有利的保障和支持。本文将利用数据挖掘技术对历史上登陆中国的TC路径进行分类,并基于诸多人们已知的气候信号利用分类与预测算法中的两种决策树算法对每一类路径的TC频数进行了分类与预测并产生了科学、简单、直观的分类规则集,更好地揭示各类路径的TC频数与人们已知气候信号之间的关系,也为预测TC频数提供了新思路。具体而言,本文从以下三个方面进行了探索和研究：1.本文深入地了解了目前热带气旋研究领域的热点和难点,从数据挖掘的角度出发,设计了登陆中国TC路径分类模型以及各类路径TC频数的分类与预测模型。通过对数据挖掘中聚类算法以及分类与预测算法知识的深入学习,选取了适合TC路径分类问题的算法即FMM算法进行模型的建立；以及适合TC频数分类与预测的两种决策树算法：CART算法和C4.5算法,利用这两种算法分别对各类路径的TC频数进行模型的构建以及验证。发挥了气象学,数据挖掘,计算机科学交叉学科的优势。2.本文利用聚类算法对登陆中国的TC路径进行了相对客观的划分。通过对K-means算法以及FMM算法两类常被学者们用来划分TC路径的聚类算法原理的学习研究和对比,本文认为FMM算法对于TC路径的分类更加的科学,。基于经验观察法,将历史上登陆中国的TC路径分为三类,并对每一类路径夏秋季和夏季的频数和生命史等特征进行了分析,发现了每一类登陆中国的TC生命史分布都各有特点。但是各类TC频数年际变化复杂,难以直观发现规律。3.为了解决上述问题,本文尝试利用CART算法和C4.5算法通过多种夏季的气候信号数据对夏季各类路径TC频数是否偏多分别进行了分类与预测,取得了较好的分类与预测效果,并且生成了简单易懂,科学有效的规则集,方便人们直观获取TC频数与气候信号之间的规律。以上工作不仅丰富了热带气旋领域的研究,也为数据挖掘和气象领域的科研问题结合提供了新思路。

关键词： AI   decision support   review   urban water system  

摘要： With sustainable development as their overarching goal, Urban Water System (UWS) managers need to take into account all social, economic, technical and environmental facets related to their decisions. Decision support systems (DSS) have been used widely for handling such complexity in water treatment, having a high level of popularity as academic exercises, although little validation and few full-scale implementations reported in practice. The objective of this paper is to review the application of artificial intelligence methods (mainly machine learning) to UWS and to investigate the integration of these methods into DSS. The results of the review suggest that artificial neural networks is the most popular method in the water and wastewater sectors followed by clustering. Bayesian networks and swarm intelligence/optimization have shown a spectacular increase in the water sector in the last 10 years, being the latest techniques to be incorporated but overtaking case-based reasoning. Whereas artificial intelligence applications to the water sector focus on modelling, optimization or data mining for knowledge generation, their encapsulation into functional DSS is not fully explored. Few academic applications have made it into decision making practice. We believe that the reason behind this misuse is not related to the methods themselves but rather to the disassociation between the fields of water and computer engineering, the limited practical experience of academics, and the great complexity inherently present.