关键词： 土地生态适宜性评价   人工智能   机器学习  

摘要： 自美国景观规划师麦克哈格提出土地生态适宜性的概念以来,"千层饼"式多因素地图叠置土地生态适宜性评价方法及其演化,被广泛运用于有关土地开发活动的诸多领域,为与自然和谐的土地利用规划提供了有效的支持,但这些方法依然存在"因素选取及其权重赋值相对主观臆断"的局限。为消解这两大局限,以山地传统聚落选址适宜性评价为例,尝试运用将人类认知世界的逻辑实证主义和证伪主义两大思维融合为一体的人工智能机器学习方法,通过建立土地生态适宜性评价的客观过程,获得更科学合理的土地生态适宜性评价结果。

关键词： 复购   特征工程   XGB   LGB   模型融合  

摘要： 随着互联网的快速发展与普及,网购者规模迅速扩大,电子商务迅猛发展,这也导致各大电商竞争愈演愈烈。近几年电商会进行大促活动,如双十一,六一八等发放优惠券以吸引新的消费者,但是此类活动效果有限,没有带来长期回报,因为很多消费者只是一次性消费者。为了取得更高的回报,商家们需要研究出哪类消费者才是值得为之付出的重复购买者。因此,研究消费者的复购行为有很强的应用价值。本文根据天猫2017年“双十一”用户行为记录数据对网站的复购行为进行了探究。数据包括11.11当天一些商户的新客户在活动日及之前6个月内的信息,首先本文从业务角度通过分析影响重复购买的因素设计特征工程提取特征,并使用了三种模型进行建模以及对应的模型融合,其算法在实验中性能表现不错。本文的工作主要包含以下几个方面:(1)数据处理。通过数据简介、数据探索、数据预处理,更好地了解数据集的字段含义及其与标签是否复购的关系。(2)设计特征工程。通过分析影响重复购买行为的因素,提取出用户特征、商家特征、用户与商家的交互特征这三个角度的特征;在升维之后进行了特征选择。(3)研究单一模型与融合模型在特征工程上的运用。分别使用XGB、LGB、catboost进行建模,最后几个模型结合在一起,组合模型能互补各个模型的优势获得更好的预测结果。

关键词： 染色质开放性   机器学习   多组学数据   神经网络   单细胞  

摘要： 随着深度测序技术的迅速发展,基因组、转录组、表观遗传组等多组学测序数据迅速积累,为发现生物体的细胞类型构成、理解细胞内基因调控机制,进而解析重大遗传疾病发生发展的生物学机制提供了丰富的数据资源。然而,全方位解读这些生物大数据,目前还面临利用生物大数据推理复杂生物知识不够精确、对生物大数据多源异质协同分析不够细致等局限。近年来,以深度学习为代表的人工智能技术在多个领域已取得突破性进展,为解决上述关键问题提供了强有力的手段。本论文以染色质开放性数据的信息解读为主线,通过融合多种组学数据的方式,研究预测染色质开放性的机器学习方法、探索单细胞染色质开放性数据分析的理论与方法。主要研究内容及创新成果包括:1.针对染色质开放性预测问题,提出了一种整合基因组序列与进化保守性的随机森林方法kmer Forest,实现了在给定细胞系下基因组的染色质开放性预测。进一步提出了整合基因组短片段词频的混合卷积神经网络模型Deopen,实现了染色质开放性信号的二值分类与连续值回归。大规模交叉验证显示上述方法的预测性能优于已有方法,且预测结果对遗传学数据的分析具有促进作用。2.针对跨细胞系染色质开放性预测问题,提出了一种融合基因组注释及转录组数据的密集连接卷积网络模型Deep CAGE。通过利用已有生物学先验知识,有效提升了模型的预测性能,并进一步建立了基于染色质开放性解析复杂表型相关非编码区遗传因素的分析方法,应用于复杂表型研究中。3.针对基于单细胞染色质开放性数据的细胞类型发现问题,提出了一种循环生成对抗网络模型sc DEC,首先从概率密度估计的角度论证了该模型的理论基础,并在细胞聚类等一系列任务中展现了模型的优异性能,还实现了单细胞染色质开放性与单细胞基因表达数据的协同分析。该模型在对细胞聚类的同时能对单细胞染色质开放性进行降维表示,从而促进了后续细胞轨迹推断、细胞调控机制解析的研究。本论文从“数据融合,信息迁移”的观点,系统性地研究了细胞群与单细胞染色质开放性数据分析中的关键问题,对生物数据解读中的概率密度估计等共性基础问题进行了创新性探索,研究成果不仅能对大规模染色质开放性数据高效分析,还能加强对细胞调控机制的深入理解,从而促进对遗传学数据的有效解读。

关键词： 数据融合   格点降水数据   降水估计   数据量  

摘要： 准确的降水估计对水资源管理、生态模型的模拟、自然灾害预防等领域都十分重要。目前,通过数据融合来提高降水数据的精度已成为研究的热点。机器学习的相关算法也逐渐被应用于降水数据融合中。本文应用多元线性回归(MLR)、前馈型神经网络(FNN)、随机森林(RF)和长短期记忆神经网络(LSTM)对四种卫星降水产品和一种再分析数据在中国区域内进行了融合,以相关系数(CC)、均方根误差(RMSE)、相对偏差(RB)、监测率(POD)、误报率(FAR)和成功率(CSI)为评价指标,综合分析了4种融合方法的优缺点,并简单探讨了数据量对于融合方法的影响。主要成果与结论如下:(1)开发了基于1年和5年历史年份的地面降水资料生成的融合降水产品(P1-MLR、P1-FNN、P1-RF、P1-LSTM、P5-MLR、P5-FNN、P5-RF和P5-LSTM)。(2)将地面降水资料(RGD)中的降水值作为实际降水值,采用六个指标(POD、FAR、CSI、RMSE、CC和RB)定量分析了基于目标年份同一年的地面降水资料交叉验证生成的融合降水数据(M-MLR、M-FNN、M-RF和M-LSTM)的误差和日降水事件监测能力。结果表明:与格点降水产品相比,M-MLR、M-FNN、M-RF和M-LSTM的误差总体上均变小,但仅M-MLR和M-RF的日降水事件监测能力总体上优于所有的格点降水产品。(3)M-MLR是(亚)热带季风性气候区和高原山地气候区中日降水事件监测能力最好的融合降水数据,也是夏季时日降水事件监测能力最好的融合降水数据,且在不同海拔地区均是日降水事件监测能力最优的融合降水数据。此外,MLR是中度降水情景中表现最好的融合方法。但是,MLR是轻度降水情景中表现最差的融合方法。M-FNN在所有区域的精度均是最差的,在春季、夏季、秋季的精度也最差的。但是,FNN在所有等级的雨量中均不是表现最差的融合方法。M-RF是所有区域、所有季节、所有海拔中误差最小的融合降水数据,在温带季风性气候区和温带大陆性气候区中是降水事件监测能力最好的融合降水数据,在春季、秋季和冬季时是日降水事件监测能力最好的融合降水数据。此外,RF是重度降水情景中表现最好的融合方法。M-LSTM在所有季节、所有海拔中均严重低估降水。但是,LSTM是轻度降水情景中表现最好的融合方法。(4)基于历史年份的地面降水资料进行训练模型,对格点降水产品进行融合,也能得到总体精度优于格点降水产品的融合降水数据。与基于目标年份的地面降水资料作为训练数据生成的融合降水数据相比,P1降水产品的误差更大,但P1-FNN和P1-LSTM的日降水事件监测能力均更优。(5)对于MLR模型,当用于计算权重的数据量分别为千级、万级、十万级、百万级时,其生成的融合降水数据(产品)的日降水事件监测能力总体上变化不大。并且,当用于计算权重的数据量为万级、十万级、百万级时,其生成的融合降水数据(产品)的误差变化也不大。对于FNN模型,当训练数据的数据量为十万级时,其生成的融合降水数据(产品)的精度最高。对于RF模型,其融合效果随训练数据的数据量增大而变好。对于LSTM模型,当其训练数据的数据量为十万级时,其生成的融合降水数据(产品)的日降水事件监测能力最优。其生成的融合降水数据(产品)的均方根误差RMSE和相关系数CC则随训练数据的数据量增大而改善。(6)与国际上流行的多源集合权重降水数据集(Multi-Source Weighted-Ensemble Precipitation,MSWEP)相比,所有P1降水产品和P5降水产品的精度均总体上优于MSWEP V1。

关键词： 数据挖掘   量化交易   深度学习   强化学习  

摘要： 量化交易是指借助数学和统计学方法,利用计算机技术来进行交易的一种证券投资方式[1]。相比主观交易,量化交易者可以通过交易程序有效地减少非理性交易决策,从而实现较为稳定的盈利。近年来,如何在量化交易领域中使用机器学习技术已经成为金融科技的一个中心话题[2]。然而,将人工智能技术运用到量化交易中面临着许多挑战,例如如何表征充满噪声的高频金融数据,以及如何自动化开发量化交易策略。对于表征高频金融数据任务来说,由于有价值的信息往往和噪声信息共存于高频数据中,所以股票高频因子提取器在训练过程很可能会受到金融噪声(价格的微小扰动)的干扰从而导致过拟合,而常见的用于防止过拟合的技巧通常从限制模型参数量的角度出发,难以对高频数据中复杂的交易信号进行建模,导致这些技巧在防止金融数据过拟合任务中的性能较差。换句话说,在设计高频因子提取器时,面临着这样的困境—容量大、表达能力强的模型很容易对噪声过拟合,而简单、稳健的模型无法捕捉高频数据中复杂的特征。为了解决这些问题,本文构造了两个不同的模块,通过交互的形式来利用有效的信息和消除噪声,以便在保持模型表达能力的同时防止过拟合。具体来说,本文提出了一个新的学习框架Digger-Guider,用于从含有噪声的高频数据中提取有用的股票表征。我们开发了一个大容量模型Digger,通过提取局部和细节特征来挖掘高频数据中包含的有效信息。另外,我们还设计了一个较为鲁棒的模型Guider,用于捕捉全局趋势特征,并帮助Digger克服噪声。在训练过程中,Digger和Guider通过互相蒸馏来实现交互,互相蒸馏机制能够作为一种数据驱动的正则化方法来提高模型的整体性能。我们在真实股票数据集上做了大量的实验,实验结果表明,该框架能够提取出有效的股票高频因子,这可以显著提高模型在股票趋势预测任务上的性能并加深对金融市场的理解。完整的量化交易除了包括价格趋势预测,还包括交易策略设计。本文提出了一种自适应的交易模型iRDPG,利用智能体自动化开发量化策略。我们通过深度强化学习算法和模仿学习技术来增强模型。具体来说,考虑到金融数据的噪声,本文将量化交易过程描述为一个部分可观测的马尔可夫决策过程,同时,引入模仿学习技术,利用经典交易策略帮助智能体平衡探索和开发。实验中使用分钟频率的股指期货数据集来训练智能体,实验结果表明,模型能够提取出稳健的市场特征,并能适应不同的市场环境。

关键词： 机器学习   众包   标签噪声   质量控制  

摘要： 众包技术的快速发展使得众包平台成为机器学习获取训练数据的一个重要来源。但是因为众包平台中工作者的不可靠性,获取的数据中存在着噪声。数据中的噪声会对机器学习模型产生很大的负面影响,因此需要对数据进行筛选或者是调整机器学习模型结构以减少噪声对模型的影响。传统的机器学习处理噪声的方法大多只考虑到样本的难度或者是标签的类别,而忽略了众包平台中一些工作者的相关的信息。本文着重于探索利用众包中的冗余回答来获取相关的工作者特征,对其进行建模以提高用众包数据训练的模型的准确度的方法。论文的主要贡献如下:(1)首先介绍了传统的机器学习中处理噪声的方法,然后总结了建模工作者来提升机器学习模型准确度的方法,即:一类方法通过分析工作者特征来提升聚合众包数据标签的质量来提升训练的模型的准确度,另一类方法将原始的冗余数据输入到模型中,在训练模型的同时建模工作者来提升模型准确度。(2)针对流行的二分类的任务,在同质工作者的情况下,设计了一个机器学习与众包相互辅助并融合的方法,充分利用已被完成的历史任务来训练模型以辅助完成当前任务。首先,利用历史数据中标签的冗余特性估测获取工作者的错误率以修改分类器的损失函数,并用历史数据训练分类器。然后,用分类器来预测当前批次的任务的回答,将分类器视为一个提交了当前任务的所有回答的虚拟工作者,并将其回答与工作者的回答融合在一起以辅助当前任务获得最终的回答。实验表明,该方法充分的利用了众包中的信息,达到了机器学习与众包相互辅助的效果。(3)针对多分类任务,研究了在工作者为异质,且存在恶意的工作者的情况下,使用原始冗余数据训练并优化深度学习网络模型的问题。为了减少恶意工作者对模型的影响,本文提出了一个利用可信工作者提供的可信标签计算其他工作者提供的标签与可信工作者提供标签的相似度以筛选出恶意的工作者并处理其标签的方案,通过处理恶意工作者的回答来减少标签中的噪声以提高其训练出来的模型的准确度。本文在AMT上的Label Me数据集上进行了实验,首先对数据集进行了分析,然后评估了恶意工作者对模型的影响,之后使用本文提出的方案来筛选处理数据集合,判断方案中的各个参数对筛选效果的影响,最终证明了该方法能够有效的筛选出恶意的工作者,并且使用处理完毕的数据集训练出来的模型的准确度得到了提升。

关键词： 逆散射   机器学习   人工神经网络   三次样条   数据缺失  

摘要： 逆散射问题是一类典型的数学物理逆问题,在石油勘探、医学成像等领域有广泛应用,因此,关于逆散射问题的研究具有重要的科学意义和实用价值。本文主要研究一类声波逆散射问题:已知入射波场和测得的远场信息,重构未知散射体的边界形状。此类问题的数值求解通常会面临非线性性和不适定性等难点,特别地,实际问题中的观测信息常常会存在不可避免的数据缺失,使得逆散射问题的有效求解极具挑战性。近些年,随着机器学习技术的不断发展,该技术被广泛的应用于图像处理、地质勘探等领域。由于机器学习技术是数据驱动的计算技术,在一定程度上可以弥补传统算法中的数据缺失问题,所以机器学习技术被广泛应用到逆问题研究中。本文将基于机器学习技术,对这一类声波逆散射问题进行讨论分析。本文主要对以下问题进行讨论:首先,给出了通过三次样条插值函数近似散射体边界方程的方法构造数据集的数学语言表达。其次,通过人工神经网络模型,应用Fourier方法和三次样条方法分别构造数据集,对单个散射体进行数值反演,通过计算反演结果与散射体真实边界形状的相对误差,得到两种方法构造数据集获得的反演结果与真实散射体边界吻合度比较结果。同时发现对声硬边界条件下单个散射体的反演,机器学习方法同样是有效的。再次,以Fourier方法构造数据集为例,对多个散射体边界进行反演,发现通过机器学习方法对多个散射体的反演同样有很好的效果,并通过反演结果与散射体真实边界的相对误差值得到两个散射体在不同边界条件、远近及大小情况下的反演结果对比,验证了机器学习方法对上述问题均是有效的。最后,讨论了有限孔径和无相位数据问题的反演结果,验证了机器学习方法对数据缺失问题是有效的。

关键词： 专利价值   特征选择   自然语言处理   BP神经网络   支持向量机   朴素贝叶斯  

摘要： 随着知识时代的到来,专利数据体量呈爆发性增长,专利信息日益重要,但是其中的专利价值参差不齐,急需一种手段来对此进行辨别。传统的专利价值评估方法需要大量市场指标,已不能适应大规模的专利数据。利用机器学习方法不但可以减轻评估人员繁重的分析任务,还可以提高分析效率和准确率。然而,大多数利用机器学习对专利价值进行评估的研究仅仅考虑专利样本中较好处理的结构化数据,没有建立专利文本与专利价值之间的联系。本研究旨在构建一个全面科学的专利价值指标体系,通过一系列机器学习算法搭建预测模型,实现对专利价值客观、准确、高效地评估。本文首先深入分析了专利价值指标,利用公共数据集上的专利数据构建了包含数值型和分类型的15个结构化指标以及包含文本信息的2个非结构化指标,并用自然语言处理方法将文本信息构建成了可用于分类算法分析的5个数值型特征;然后对比验证了改进的Relief-NMI特征选择算法的有效性,并运用该算法分别对结构化指标和非结构化指标进行重要性排序;最后分别运用支持向量机、BP神经网络和朴素贝叶斯分类算法对专利数据进行分析,确定最优特征指标集,并据此指标集再次对算法进行十折交叉验证,分析算法性能,最终得到基于机器学习的专利价值分类预测模型的指标体系与分类算法。实验结果表明:利用改进的Relief-NMI算法对专利特征选择后分类算法的准确率得到了有效提高;加入由文本信息构成的数值型特征后,算法的准确率得到了进一步提升,此时选择的最优特征集为:专利被引用数、申请人类型、IPC分类数、法律状态、目标专利与当年之前在同一类的专利之间的平均余弦相似性、授权时长、申请人国籍、权利要求数等8个特征;并且验证了支持向量机在算法准确性和稳定性方面都高于另两种算法,准确率达到90%左右,是一种适合专利价值预测的分类算法。

关键词： 地球科学大数据   构造背景判别   机器学习   元素协变图  

摘要： 地球科学已经步入大数据时代,大数据改变了地球科学研究的思维方式和研究方法,提供了多样化的数据挖掘方法和知识发现途径。地球科学大数据以及人工智能技术的快速发展和突破创新,为面向大数据处理的专业软件的研制与开发带来了新的机遇和挑战。以岩石构造背景的判别分析和应用为例,大地构造背景对火成岩的组成和化学特征具有控制作用,分析火成岩的化学组分特征能够反演指示岩浆成因和构造背景。构造背景判别图是识别火成岩构造背景的重要途径之一。但随着地质数据的积累,传统的判别方法在构造背景类型和岩石类型上受到了很大限制。本文基于全球岩石地球化学大数据集,采用改进的随机森林模型对玄武岩的构造背景进行判别分类,并融合迭代筛选的思想自动优化判别元素组合,在此基础上开发出一款能够自动优化判别元素组合且有效判别玄武岩构造背景的专用软件。通过实践证明,优化的玄武岩构造背景判别方法能克服传统基于图判别的限制,减少个人经验的主观干预,更加准确地识别不同岩石类型的构造背景。为检验随机森林判别模型的泛化能力,本文对PDF格式的学术文献中的表格数据进行了自动识别和提取整合,生成适用于随机森林判别模型评价检验的数据集,验证了构造背景判别模型的准确性与泛化性,并在此基础上设计开发出一款能够从PDF文件的表格中自动识别岩石地球化学数据并提取收集的专用软件。通过测试验证,本文采用的判别模型具有良好的泛化能力,能够为玄武岩不同构造背景的界定提供判别依据。不同构造背景和不同演化阶段,元素的地球化学特征具有差异性。元素协变图可以直观地显示元素在岩浆演化过程中的变化趋势。但现有方法在处理和分析地球化学大数据时,难以揭示大数据背景下地球化学元素之间的相关关系,限制了地球化学大数据的进一步分析和应用。为适应面向岩石地球化学大数据的元素协变图的处理需求,本文参考穷竭法处理思路,采用区间线性拟合方法,开发一款适用于岩石地球化学大数据的元素协变图自动绘制软件。该软件能够快速对岩石地球化学大数据集拟合趋势线并生成元素协变图,直观、清晰地展现元素在岩浆演化不同阶段和不同构造背景下元素的地球化学行为特征。