关键词： 肝细胞癌   早期诊断   基因表达的秩序关系   最小冗余最大相关   支持向量机  

摘要： 肝细胞癌(hepatocellular carcinoma,HCC)是一种常见的恶性肿瘤,其在全球癌症相关死亡人数中排名第三。目前,HCC的早期检测方法主要有血清标记物检测与影像学检查。其中,血清标记物的灵敏度不高,无法鉴别大约1/3以上的肝癌患者。影像学检查对于直径<2厘米且分化较好的早期肿瘤的诊断敏感性约50%左右。因此,对于影像学检查难以辨别的早期肝癌组织中发生的微小病理改变,通常采用肝穿刺活组织检查来鉴定,然而活检经常会出现未取到癌组织而发生漏检的情况。事实上,超过80%的肝癌是由肝硬化发展而来。虽然目前已有一些方法可以用于区分HCC和非HCC患者的肝硬化(非癌旁肝硬化),但其预测的准确率却远远不能令人满意。因此,迫切需要更加准确的诊断模型来辅助临床场景下的早期肝癌诊断,从而增加肝癌的治疗机会和生存率。本文在来自不同实验室的1091个HCC样本和242个非癌旁肝硬化样本的基因表达谱数据集中,利用样本内基因表达量的秩序关系(relative expression orderings,REOs)分别获得在95%以上的样本中保持高度稳定、但在两者间逆转的基因对,并将得到的逆转基因对作为用于HCC早期诊断的候选分子标志。然后使用最小冗余最大相关(minimum redundancy maximum relevance,m RMR)和增量特征选择去除不相关特征。最终,我们筛选得到了由11基因对(TRMT112和SF3B1,MFSD5和COLEC10,FDXR和APC2,LAMC1和CHST4,UBE4B和HGF,NCAPH2和APC2,HSPH1和MTHFD2,TMEM38B和AGO3,PLGRKT和COLEC10,HNF1A和APC2,ARPC2和SF3B1)构成的标志。应用支持向量机(support vector machine,SVM)算法进行分类,并进行5-折交叉验证,结果显示此分子标志在训练集中的准确性为100%。进一步地,我们研究了11基因对标志在几个独立数据集上的肝癌识别能力。对于活检取样数据,该分子标志正确分类100%的HCC样本(共99例)与100%的非癌旁肝硬化样本(共44例)。特别地,97例HCC癌旁正常组织和80例HCC癌旁肝硬化组织均被该分子标志分类为HCC。对于手术切除数据,此分子标志将89.63%的HCC样本(共926例)和100%的非癌旁肝硬化手术切除样本(共18例)正确分类。同时,该分子标志还将93.7%的HCC癌旁肝硬化样本(共254例)及100%的HCC癌旁正常组织样本(共644例)分类为HCC。结果表明,11对基因可以作为早期HCC的诊断标志。即使是对于取样位置不准确的微量活检样本(癌旁正常或癌旁肝硬化),该标志可以将HCC及其癌旁组织从非癌旁肝硬化组织中区分开来,并且在个体层面上对肝癌早期诊断有实际和有效的帮助。

摘要： According to the Texas Department of Transportation’s Texas Motor Vehicle Crash Statistics, Texas has had the highest number of severe crashes involving large trucks in the US. As defined by the US Department of Transportation, a large truck is any vehicle with a gross vehicle weight rating greater than 10,000 pounds. Generally, it requires more time and much more space for large trucks to accelerating, slowing down, and stopping. Also, there will be large blind spots when large trucks make wide turns. Therefore, if an unexpected traffic situation comes upon, It would be more difficult for large trucks to take evasive actions than regular vehicles to avoid a collision. Due to their large size and heavy weight, large truck crashes often result in huge economic and social costs. Predicting the severity level of a reported large truck crash with unknown severity or of the severity of crashes that may be expected to occur sometime in the future is useful. It can help to prevent the crash from happening or help rescue teams and hospitals provide proper medical care as fast as possible. To identify the appropriate modeling approaches for predicting the severity of large truck crash, in this research, four representative classification tree-based ML models (e.g., Extreme Gradient Boosting tree (XGBoost), Adaptive Boosting tree(AdaBoost), Random Forest (RF), Gradient Boost Decision Tree (GBDT)), two non-tree-based ML models (e.g., the Support Vector Machines (SVM), k-Nearest Neighbors (kNN)), and LR model were selected. The results indicate that the GBDT model performs best among all of seven models.

关键词： 新冠疫情   大五人格特质   主观幸福感   在线文本分析   机器学习  

摘要： 微博平台作为Web2.0时代的主要在线社交媒介,现已成为用户展示自我和分享生活的重要渠道。在线社交媒体的兴起引起了包括心理学在内众多领域的关注,其中包含的大量在线文本已经成为个体心理特质与行为研究的重要数据来源,通过社交平台在线文本分析可以相对客观的获得用户的个性特点。当前世界正在经历一场史无前例的突发性公共卫生事件,2020年初爆发的新冠肺炎(COVID-19)疫情,由于其潜伏期长、传染性强,迅速在全世界蔓延。新冠疫情加速了个体社交媒体的使用频率,通过在线文本分析与建模能更加广泛和全面地揭示微博用户疫情期间的心理动态与生活状况特点。本研究选择微博在线社交平台,结合机器学习分类算法与自建词库对微博用户人格特质与新冠疫情下的主观幸福感进行分析。不仅能够丰富突发负性事件下个体主观幸福感的研究,也能够为今后运用线上“心理特征建模”方式开展研究提供实证基础与参考。 研究1首先整理出大五人格及主观幸福感各维度的种子词,结合Word2Vec技术和包含11977831条原创微博文本的语料库对人格特质和主观幸福感种子词进行扩充,形成初始版词库。随后利用多种机器学习分类算法对初始版人格特质词库和主观幸福感词库进行检验。最后分析词库中词汇的特征值,保留具有有效特征值的词汇。最终构建适合中文网络语境下的大五人格特质词库和主观幸福感词库。在研究2a中,首先调用主观幸福感词库与分类模型,对随机抓取到的5822名微博活跃用户新冠疫情期间发布的原创文本进行主观幸福感水平分类,同时通过潜变量增长模型考察新冠疫情期间微博用户的主观幸福感初始水平与发展速率特点。随后在研究2b中,结合人格特质词库和机器学习分类模型为微博用户标记人格特质水平标签。最后,利用贝叶斯独立样本T检验对人格特质水平高低分组用户新冠疫情期间的主观幸福感进行分析。 本研究得到的结果如下:(1)本研究构建的大五人格特质词库和主观幸福感词库具有较好的区分度,能够有效应用于中文网络语境下的用户心理特征分析。(2)本研究发现“疫情”3个阶段的主观幸福感微博发文数呈现上升趋势,同时主观幸福感的初始状态与发展速率之间存在显著正向预测关系,且不同性别用户主观幸福感在“疫情”期间的发展速率不存在显著差异。(3)本研究发现高神经质水平用户在“疫情”期间的负性情感文本表达上显著多于低水平用户,在生活满意度、正性情感以及主观幸福感的表达上显著低于低水平用户;高严谨性水平用户在正性情感和负性情感表达上显著低于低严谨性水平用户;高宜人性水平和高开放性水平用户在生活满意度和主观幸福感表达上显著高于低水平用户;高外向性水平用户在生活满意度、正性情感和主观幸福感表达上显著高于低水平用户。 本研究结论如下:通过自建词库方式可以相对客观与全面地分析个体心理特征;新冠疫情下微博用户主观幸福感初始状态与发展速率之间具有显著的正向预测关系;微博用户人格特质与新冠疫情下主观幸福感之间存在显著相关。

关键词： 结构健康监测   数据异常检测   卷积神经网络   计算机视觉   迁移学习  

摘要： 结构健康监测系统得到的监测数据通常包含多种类型的异常(包括错误数据),这些异常通常是由传感器故障和数据传输故障等引起的,并不一定代表结构的真实状况。异常数据的存在严重干扰了结构健康诊断与评估。但是,由于结构健康监测系统数据量巨大,异常数据类型多,异常数据特征具有不确定性等特点,传统单目标、二分类方法以及基于阈值的异常数据检测方法均难适用。当前对异常数据的检测方法研究多集中于振动加速度数据,对于种类繁多、复杂的其它各种数据的异常检测研究相对较少,因此本文研究基于机器学习的结构健康监测多元数据的异常检测方法。主要研究内容包括:建立了结构健康监测多元数据异常检测的数据库。考虑到结构健康监测数据的特点,将结构健康监测数据异常检测问题转化为图像分类问题,通过将数据分段可视化,确定应变、支座位移、GPS、温度、倾角等监测数据的异常模式,构造了结构健康监测多元数据库,通过使用Deep Dream卷积神经网络可视化工具将卷积神经网络内部高维权重可视化,总结特征建立异常数据特征库。提出了基于卷积神经网络的结构健康监测多元数据异常检测方法。首先设计并训练了一个用于数据异常分类的卷积神经网络架构,研究在不同工况中卷积神经网络架构的最优参数与超参数。采用数据库中具有代表性特征的样本进行标记、训练、验证与测试,通过实际桥梁监测数据对训练好的卷积神经网络模型进行异常数据检测验证,并与人工检测结果进行对比分析,结果表明提出的方法在精度、效率等方面满足多元数据异常检测要求。提出了基于迁移学习的结构健康监测多元数据异常检测方法。针对单个结构训练数据不足的问题,在原有卷积神经网络模型的基础上,提出采用不同结构的少量数据进行有监督参数迁移学习的方法,设计了迁移学习方案和神经网络架构。采用实桥监测数据进行验证并与基于Alex-Net的迁移学习模型进行了对比分析,结果表明,在小规模数据的迁移学习下能有效地提升异常检测模型的泛化能力。

关键词： 土地生态适宜性评价   人工智能   机器学习  

摘要： 自美国景观规划师麦克哈格提出土地生态适宜性的概念以来,"千层饼"式多因素地图叠置土地生态适宜性评价方法及其演化,被广泛运用于有关土地开发活动的诸多领域,为与自然和谐的土地利用规划提供了有效的支持,但这些方法依然存在"因素选取及其权重赋值相对主观臆断"的局限。为消解这两大局限,以山地传统聚落选址适宜性评价为例,尝试运用将人类认知世界的逻辑实证主义和证伪主义两大思维融合为一体的人工智能机器学习方法,通过建立土地生态适宜性评价的客观过程,获得更科学合理的土地生态适宜性评价结果。

关键词： 染色质开放性   机器学习   多组学数据   神经网络   单细胞  

摘要： 随着深度测序技术的迅速发展,基因组、转录组、表观遗传组等多组学测序数据迅速积累,为发现生物体的细胞类型构成、理解细胞内基因调控机制,进而解析重大遗传疾病发生发展的生物学机制提供了丰富的数据资源。然而,全方位解读这些生物大数据,目前还面临利用生物大数据推理复杂生物知识不够精确、对生物大数据多源异质协同分析不够细致等局限。近年来,以深度学习为代表的人工智能技术在多个领域已取得突破性进展,为解决上述关键问题提供了强有力的手段。本论文以染色质开放性数据的信息解读为主线,通过融合多种组学数据的方式,研究预测染色质开放性的机器学习方法、探索单细胞染色质开放性数据分析的理论与方法。主要研究内容及创新成果包括:1.针对染色质开放性预测问题,提出了一种整合基因组序列与进化保守性的随机森林方法kmer Forest,实现了在给定细胞系下基因组的染色质开放性预测。进一步提出了整合基因组短片段词频的混合卷积神经网络模型Deopen,实现了染色质开放性信号的二值分类与连续值回归。大规模交叉验证显示上述方法的预测性能优于已有方法,且预测结果对遗传学数据的分析具有促进作用。2.针对跨细胞系染色质开放性预测问题,提出了一种融合基因组注释及转录组数据的密集连接卷积网络模型Deep CAGE。通过利用已有生物学先验知识,有效提升了模型的预测性能,并进一步建立了基于染色质开放性解析复杂表型相关非编码区遗传因素的分析方法,应用于复杂表型研究中。3.针对基于单细胞染色质开放性数据的细胞类型发现问题,提出了一种循环生成对抗网络模型sc DEC,首先从概率密度估计的角度论证了该模型的理论基础,并在细胞聚类等一系列任务中展现了模型的优异性能,还实现了单细胞染色质开放性与单细胞基因表达数据的协同分析。该模型在对细胞聚类的同时能对单细胞染色质开放性进行降维表示,从而促进了后续细胞轨迹推断、细胞调控机制解析的研究。本论文从“数据融合,信息迁移”的观点,系统性地研究了细胞群与单细胞染色质开放性数据分析中的关键问题,对生物数据解读中的概率密度估计等共性基础问题进行了创新性探索,研究成果不仅能对大规模染色质开放性数据高效分析,还能加强对细胞调控机制的深入理解,从而促进对遗传学数据的有效解读。

关键词： 复购   特征工程   XGB   LGB   模型融合  

摘要： 随着互联网的快速发展与普及,网购者规模迅速扩大,电子商务迅猛发展,这也导致各大电商竞争愈演愈烈。近几年电商会进行大促活动,如双十一,六一八等发放优惠券以吸引新的消费者,但是此类活动效果有限,没有带来长期回报,因为很多消费者只是一次性消费者。为了取得更高的回报,商家们需要研究出哪类消费者才是值得为之付出的重复购买者。因此,研究消费者的复购行为有很强的应用价值。本文根据天猫2017年“双十一”用户行为记录数据对网站的复购行为进行了探究。数据包括11.11当天一些商户的新客户在活动日及之前6个月内的信息,首先本文从业务角度通过分析影响重复购买的因素设计特征工程提取特征,并使用了三种模型进行建模以及对应的模型融合,其算法在实验中性能表现不错。本文的工作主要包含以下几个方面:(1)数据处理。通过数据简介、数据探索、数据预处理,更好地了解数据集的字段含义及其与标签是否复购的关系。(2)设计特征工程。通过分析影响重复购买行为的因素,提取出用户特征、商家特征、用户与商家的交互特征这三个角度的特征;在升维之后进行了特征选择。(3)研究单一模型与融合模型在特征工程上的运用。分别使用XGB、LGB、catboost进行建模,最后几个模型结合在一起,组合模型能互补各个模型的优势获得更好的预测结果。

关键词： 数据融合   格点降水数据   降水估计   数据量  

摘要： 准确的降水估计对水资源管理、生态模型的模拟、自然灾害预防等领域都十分重要。目前,通过数据融合来提高降水数据的精度已成为研究的热点。机器学习的相关算法也逐渐被应用于降水数据融合中。本文应用多元线性回归(MLR)、前馈型神经网络(FNN)、随机森林(RF)和长短期记忆神经网络(LSTM)对四种卫星降水产品和一种再分析数据在中国区域内进行了融合,以相关系数(CC)、均方根误差(RMSE)、相对偏差(RB)、监测率(POD)、误报率(FAR)和成功率(CSI)为评价指标,综合分析了4种融合方法的优缺点,并简单探讨了数据量对于融合方法的影响。主要成果与结论如下:(1)开发了基于1年和5年历史年份的地面降水资料生成的融合降水产品(P1-MLR、P1-FNN、P1-RF、P1-LSTM、P5-MLR、P5-FNN、P5-RF和P5-LSTM)。(2)将地面降水资料(RGD)中的降水值作为实际降水值,采用六个指标(POD、FAR、CSI、RMSE、CC和RB)定量分析了基于目标年份同一年的地面降水资料交叉验证生成的融合降水数据(M-MLR、M-FNN、M-RF和M-LSTM)的误差和日降水事件监测能力。结果表明:与格点降水产品相比,M-MLR、M-FNN、M-RF和M-LSTM的误差总体上均变小,但仅M-MLR和M-RF的日降水事件监测能力总体上优于所有的格点降水产品。(3)M-MLR是(亚)热带季风性气候区和高原山地气候区中日降水事件监测能力最好的融合降水数据,也是夏季时日降水事件监测能力最好的融合降水数据,且在不同海拔地区均是日降水事件监测能力最优的融合降水数据。此外,MLR是中度降水情景中表现最好的融合方法。但是,MLR是轻度降水情景中表现最差的融合方法。M-FNN在所有区域的精度均是最差的,在春季、夏季、秋季的精度也最差的。但是,FNN在所有等级的雨量中均不是表现最差的融合方法。M-RF是所有区域、所有季节、所有海拔中误差最小的融合降水数据,在温带季风性气候区和温带大陆性气候区中是降水事件监测能力最好的融合降水数据,在春季、秋季和冬季时是日降水事件监测能力最好的融合降水数据。此外,RF是重度降水情景中表现最好的融合方法。M-LSTM在所有季节、所有海拔中均严重低估降水。但是,LSTM是轻度降水情景中表现最好的融合方法。(4)基于历史年份的地面降水资料进行训练模型,对格点降水产品进行融合,也能得到总体精度优于格点降水产品的融合降水数据。与基于目标年份的地面降水资料作为训练数据生成的融合降水数据相比,P1降水产品的误差更大,但P1-FNN和P1-LSTM的日降水事件监测能力均更优。(5)对于MLR模型,当用于计算权重的数据量分别为千级、万级、十万级、百万级时,其生成的融合降水数据(产品)的日降水事件监测能力总体上变化不大。并且,当用于计算权重的数据量为万级、十万级、百万级时,其生成的融合降水数据(产品)的误差变化也不大。对于FNN模型,当训练数据的数据量为十万级时,其生成的融合降水数据(产品)的精度最高。对于RF模型,其融合效果随训练数据的数据量增大而变好。对于LSTM模型,当其训练数据的数据量为十万级时,其生成的融合降水数据(产品)的日降水事件监测能力最优。其生成的融合降水数据(产品)的均方根误差RMSE和相关系数CC则随训练数据的数据量增大而改善。(6)与国际上流行的多源集合权重降水数据集(Multi-Source Weighted-Ensemble Precipitation,MSWEP)相比,所有P1降水产品和P5降水产品的精度均总体上优于MSWEP V1。

关键词： 数据挖掘   量化交易   深度学习   强化学习  

摘要： 量化交易是指借助数学和统计学方法,利用计算机技术来进行交易的一种证券投资方式[1]。相比主观交易,量化交易者可以通过交易程序有效地减少非理性交易决策,从而实现较为稳定的盈利。近年来,如何在量化交易领域中使用机器学习技术已经成为金融科技的一个中心话题[2]。然而,将人工智能技术运用到量化交易中面临着许多挑战,例如如何表征充满噪声的高频金融数据,以及如何自动化开发量化交易策略。对于表征高频金融数据任务来说,由于有价值的信息往往和噪声信息共存于高频数据中,所以股票高频因子提取器在训练过程很可能会受到金融噪声(价格的微小扰动)的干扰从而导致过拟合,而常见的用于防止过拟合的技巧通常从限制模型参数量的角度出发,难以对高频数据中复杂的交易信号进行建模,导致这些技巧在防止金融数据过拟合任务中的性能较差。换句话说,在设计高频因子提取器时,面临着这样的困境—容量大、表达能力强的模型很容易对噪声过拟合,而简单、稳健的模型无法捕捉高频数据中复杂的特征。为了解决这些问题,本文构造了两个不同的模块,通过交互的形式来利用有效的信息和消除噪声,以便在保持模型表达能力的同时防止过拟合。具体来说,本文提出了一个新的学习框架Digger-Guider,用于从含有噪声的高频数据中提取有用的股票表征。我们开发了一个大容量模型Digger,通过提取局部和细节特征来挖掘高频数据中包含的有效信息。另外,我们还设计了一个较为鲁棒的模型Guider,用于捕捉全局趋势特征,并帮助Digger克服噪声。在训练过程中,Digger和Guider通过互相蒸馏来实现交互,互相蒸馏机制能够作为一种数据驱动的正则化方法来提高模型的整体性能。我们在真实股票数据集上做了大量的实验,实验结果表明,该框架能够提取出有效的股票高频因子,这可以显著提高模型在股票趋势预测任务上的性能并加深对金融市场的理解。完整的量化交易除了包括价格趋势预测,还包括交易策略设计。本文提出了一种自适应的交易模型iRDPG,利用智能体自动化开发量化策略。我们通过深度强化学习算法和模仿学习技术来增强模型。具体来说,考虑到金融数据的噪声,本文将量化交易过程描述为一个部分可观测的马尔可夫决策过程,同时,引入模仿学习技术,利用经典交易策略帮助智能体平衡探索和开发。实验中使用分钟频率的股指期货数据集来训练智能体,实验结果表明,模型能够提取出稳健的市场特征,并能适应不同的市场环境。