关键词： 糖尿病预测   离群值处理   不平衡数据处理   卷积神经网络  

摘要： 根据世界卫生组织发布的最新数据显示,全球糖尿病患者数量呈不断增长的趋势,从1980年的1.08亿增长至2021年的5.37亿,预计在2050年将达到13.1亿。通常,早期糖尿病难以被察觉,直至出现并发症才会引起重视。尽管现有的医疗水平已经高度发达,但目前仍缺乏有效的糖尿病治疗方案,因此,尽早地发现并做出及时的干预显得尤为重要。随着人工智能的不断发展与进步,越来越多的学者将机器学习相关算法应用于疾病预测领域,并且取得了显著的成效。然而,现有的糖尿病预测方法中仍然存在以下问题:(1)离群值问题。糖尿病数据集中,离群值是由于测量错误、数据输入等原因所导致的,而离群值的存在会影响分类器的学习效果;(2)不平衡数据问题。在糖尿病数据集中,不平衡数据主要表现为患病样本数量远远少于未患病样本的数量。这种情况可能导致模型在训练过程中,更倾向于对多数类样本的学习,而忽略了少数类样本,从而降低对少数类样本的学习效果;(3)分类器问题。传统的分类算法存在一定的局限性,特别是在特征学习方面。此外,对于复杂的非线性关系建模,传统的分类算法表现亦显不足。值得注意的是,在大多数研究中,对上述三个问题未进行深入讨论与解决。 基于上述问题,论文做了具体的分析和研究工作,具体研究内容如下。 (1)提出一种基于四分位数与Kolmogorov-Smirnov检验(以下简称KS检验)的离群值处理方法。该方法首先使用四分位距对离群值进行检测,随后通过KS检验评估离群值所在特征的数据分布情况,根据不同的特征分布情况,选择均值或中值进行替换,确保替换数据的匹配度。具体而言,如果离群值所在特征呈正态分布,则使用相应的均值进行替换;反之,则选择中值进行替换。该方法避免了直接删除离群值所在行或列所导致重要原始数据丢失问题,同时解决了直接使用均值或中值替换所导致的替换数据匹配度不高的问题。在PIMA糖尿病数据集上进行测试,结果表明,论文所提出的方法优于直接删除离群值所在行或列、直接使用均值或中值替换的处理方式。 (2)提出一种基于样本空间划分与K近邻算法的不平衡数据处理方法,旨在有效识别噪声数据并生成高质量的合成数据。在该方法中,首先利用K近邻算法对样本空间进行划分,将样本空间划分为安全部分、边界部分及噪声部分,具体的划分是通过分析每个样本K个最近邻居的属性来确定其在空间划分中的归属。对于被识别为噪声的样本,采取删除处理。而对于删除操作后的数据集中的少数类样本,采用一种全新的过采样方法进行处理,该过采样方法突破传统合成少数类过采样技术的限制,对合成规则进行一定的拓展,有效避免了在合成数据时生成噪声数据,同时还避免了合成的新数据导致多数类与少数类数据边界被模糊的问题。最后,在24个不平衡数据集上进行测试,使用随机森林算法和支持向量机算法完成分类任务时,相较于几种常见的不平衡数据处理算法,论文提出的方法在召回率、F1值、G均值和AUC等指标上表现更优秀。 (3)设计了一种用于糖尿病预测的卷积神经网络模型。设计的卷积神经网络模型由卷积层和全连接层构成,经过全面验证,充分证实了其在糖尿病预测方面的可行性。在验证过程中,将该模型与传统机器学习分类方法、基于随机森林改进的算法及长短期记忆网络进行比较,包括在未做任何处理情况下的对比,仅对数据集进行离群值处理情况下的对比,对数据集进行离群值处理与不平衡数据处理情况下的对比,以及对数据集进行离群值与不平衡数据处理且对传统机器学习分类算法使用网格搜索优化超参数的情况下的对比。实验结果表明,论文所提出的卷积神经网络模型在PIMA糖尿病预测中表现出色,达到了最佳效果。

关键词： 阿尔茨海默症   计算机辅助诊断   多示例学习   注意力机制   多模态数据  

摘要： 阿尔茨海默症(Alzheimer’s Disease,AD)是一种慢性神经系统退行性疾病,其早期阶段表现为轻度认知障碍(Mild Cognitive Impairment,MCI)。在MCI时期,由于病理信息不足,因此难以确诊AD,延误了治疗的最佳时机。如果能在MCI时期进行精准的诊断与预测,就能有效控制患者病情。由于MCI的诊断对AD的治疗至关重要,因此,使用深度学习模型实现对MCI的精准预测成为当前研究的热点与重点。传统的模型主要关注脑区图像与完整大脑图像之间的相关性,且一般使用单一模态数据进行预测。这种方法具有两种弊端,第一,脑区的局部区域可能包含有关键的病理信息;第二,单一模态数据不够充分,不足以完整体现患者的大脑状态。以上两点弊端导致MCI的辅助诊断效果不佳。为了解决以上两点问题,本文设计了一种多示例分类网络,通过引入注意力机制实现脑区的全局和局部图像之间的交互,并进一步设计了一个多模态融合模块,以在诊断中融合多模态数据。本文的工作如下: (1)为提高对特殊的局部脑区的关注,本文将不同的局部脑区图像作为不同的示例,并用一个使用注意力机制的多示例分类网络实现信息交互。具体而言,该网络包含了信息聚合、局部空间注意力和全局注意力学习模块。信息聚合模块基于重采样原理设计,有效解决了脑区图像中信息分布不均匀和尺度差异较大的问题。本文创新性地结合了局部空间注意力和全局注意力,旨在增强对脑区图像中特殊区域的关注,为后续的AD诊断提供重要依据。实验结果显示,本文提出的多示例分类网络在ADNI数据集上表现出色,各模块的有效性得到了充分验证,各项评价指标均优于传统模型。 (2)为融合多模态数据,本文提出了一种具备多模态融合能力的多示例多注意力网络。网络将同一患者的两种模态脑区图像进行融合,在特征融合阶段,同时关注通道域和空间域,通过卷积神经网络层的处理,将多模态特征映射到同一维度。进而,利用通道和空间注意力机制实现对多模态数据特征的精准融合。同时为避免丢失每一个脑区和全局图像之间的空间联系,本文还利用全局最大池化层和平均池化层构建空间注意力模块以计算单个脑区基于整幅图像的权重分数。实验结果充分证明,本文提出的网络模型出色地完成了多模态数据的融合任务,并显著提高了对MCI时期患者疾病进展的预测准确率。

关键词： 主动学习   深度学习   图像分类   主动损失预测   数据增强  

摘要： 图像分类是当前人工智能领域一个重要的研究方向,它在当今社会有许多的应用前景。数据是训练深度学习模型的关键,得益于当今信息时代网络上有很多用于学习研究的图像开源数据集,在图像分类上,已经有不少深度学习模型取得重大突破。然而,在现实的使用中,获得大量的无标签的图像是容易的,而对这些无标签的图像进行标注和分类是费力且耗时的。而且对于一些特殊的数据集,例如在对一个花卉数据集进行标注,还需要能够分辨它们的专业人员才能完成标注任务。主动学习正是为了克服这一个难题而产生的,主动学习通过不同的选择策略选择无标签样本进行标注后加入训练集用于训练模型,通过有限的标注样本预算来训练出一个更优的模型。本文的主要工作如下: (1)本文基于主动损失预测方法和数据增强方法提出了一种有效的图像分类方法LLPA(Learn Loss Plus With Data Augmentation)。考虑到分类模型的鲁棒性,该方法使用主动损失预测模块对原始图像和增强图像进行预测,并使用它们之间预测的差异值进行图像选择,之后对这些选择的图像进行标注后用于训练。对于传统的有监督学习方法没有考虑如何使用无标签图像的问题,本文提出了一种伪标签策略对分类模型较为确信的图像样本加入训练集进行训练,实现了对有标签图像数据集的扩充。最后为了提高分类模型在算法迭代初期对样本特征的提取能力,本文使用了一种自监督方法和整个无标签图像样本集对模型进行预训练来提升模型的训练效果。为了验证本文方法的有效性,在多个图像数据集上进行了对比实验,对比结果表明本文方法在使用相同的标注成本下能够获得更高的图像分类准确率。 (2)考虑到当前缺失一种融合主动学习方法的图像分类系统,因此本文在提出LLPA图像分类算法的基础上,根据LLPA算法的流程设计了一个在线的图像标注分类系统。并采用前后端分离开发技术,使用Vue和Django完成了对系统的实现。本系统集LLPA算法流程中的样本选择、标注、训练和最后的模型使用于一体。完成系统后,对系统进行了功能性测试,确保系统可正常使用以帮助减少训练一个图像分类模型的标注成本。测试结果表明本系统可以有效帮助用户进行标注和训练一个分类模型,并能够在线使用该分类模型。

关键词： 大气边界层高度   机器学习   探空数据  

摘要： 大气边界层高度受多种气象因素影响,准确获取大气边界层高度连续变化和演变规律具有重要意义。为解决传统技术手段获取大气边界层高度存在的时空分辨率低、计算过程复杂等问题,本研究基于2016年1月至2019年12月长期的地面气象要素、风廓线雷达和探空观测数据,统计分析了不同下垫面条件下(北京和库尔勒地区)边界层高度和地表气象参量的分布特征;在此基础上,采用XGBoost机器学习方法,利用2016年1月至2019年5月的观测数据对算法模型进行训练。通过机器学习模型估计了北京地区和库尔勒地区2019年6月至2020年5月的全年大气边界层高度,并对这两个地区的大气边界层高度多时间尺度分布特征进行分析。主要研究结果如下: (1)北京地区在晴朗的白天,模型估计效果最好,与真实观测具有较高的一致性,相关系数达到0.86;夜间估计效果偏差。地表温度、相对湿度、风速是对模型估计结果影响最显著的气象要素。基于机器学习模型估计的边界层高度呈现显著日变化,日出之后迅速发展,午后逐渐下降,夜间逐渐达到平稳;春夏季北京地区边界层高度日变化较为显著,可达1000 m;秋冬季日变化幅度较小,约为700 m。 (2)本研究对比分析了XGBoost和其他多种方法对边界层高度的估计效果。结果显示,XGBoost算法的能力优于多元线性回归和支持向量回归算法。基于中尺度气象模式(WRF)的三种边界层参数化方案在春季早晨的模拟效果较好,XGBoost模型估计结果的均方根误差、平均绝对误差小于WRF模式中三种典型边界层参数化方案,在所有实验中都展现出更好的结果。 (3)在稳定边界层条件下,北京和库尔勒地区的地表相对湿度与大气边界层高度呈正相关,地表温度与大气边界层高度呈负相关。在中性和对流边界层状态下,两地区的地表相对湿度与边界层高度呈负相关,地表温度与大气边界层高度呈显著正相关。受下垫面和大陆性气候的共同影响,库尔勒地区春季和夏季能够探测到超高边界层。白天的模型估计效果较好,与观测值的相关系数达到0.74,地表温度、相对湿度和风向风速是影响模型结果的主要因素。 总体上,本研究中基于机器学习的边界层高度估计方法弥补了传统手段时间分辨率低、受天气变化影响大等不足,为边界层高度的连续观测估计提供了新思路。

关键词： 随机森林   XGBoost   AdaBoost   认知异常   相关因素  

摘要： 目的:本研究应用随机森林、XGBoost和AdaBoost模型筛选中国健康与养老追踪调查数据库与认知有关的变量,再使用logistic回归模型对筛选后的数据进行分析,以探求中国45岁及以上中老年人影响认知的相关因素,为该人群认知情况的了解及其预防提供科学依据。 方法: 1.本研究使用2018年中国健康与养老追踪调查数据(CHARLS),调查对象为45岁及以上人群。采用标准认知调查问卷和认知状态电话访谈(Telephone Interview of Cognitive Status,TICS)量表评价研究对象的认知状况。参考既往文献,分别按照不同年龄段、教育程度和性别计算认知功能总分的均值减去1倍标准差,高于此界值则评定为正常,否则则评定为认知异常(Cognitive Abnormalities,CA)。 2.将整理好的数据按4:1的比例划分为训练集和测试集,并对训练集进行降采样处理,使其成为平衡数据,利于模型建立。 3.使用训练集数据分别构建随机森林、AdaBoost和XGBoost三种机器学习模型,根据三种模型计算出各自变量的重要性排名,通过向前变量选择法,逐步引入变量,以AUC面积作为衡量标准,筛选出最佳变量组合,以这些最佳变量组合构建logistic回归模型。比较三组logistic回归模型,选出最佳模型的变量进行进一步的解释说明。 4.本研究使用python3.9.7软件建立随机森林模型、XGBoost和AdaBoost模型,应用R4.3.0软件进行logistic回归分析,P≤0.05为差异有统计学意义。 结果: 1.本研究最终有13269个观察单位,认知异常患病率为17.24%。其中男性6735人,患病率为12.20%;女性6534人,患病率为21.14%。经过4:1的比例划分训练集和测试集后,训练集有观察单位10615人,患病率为17.15%,测试集有观察单位2654人,患病率为17.63%。 2.训练集CA1820人,非CA8795人,经过欠采样处理非CA为1820人,二者比例为1:1,数据达到平衡,训练集共有样本量为3640人。 3.随机森林模型筛选出了75个变量,构建logistic回归模型,筛选出了24个变量;XGBoost模型筛选出了159个变量,构建logistic回归模型,筛选出27个变量;AdaBoost筛选出了32个变量,构建logistic回归模型,筛选出26个变量。随机森林模型结合logistic回归BIC值为4531.039,5折交叉准确率为69.31%;XGBoost模型结合logistic回归模型BIC值为4555.334,5折交叉准确率为67.20%;AdaBoost模型结合logistic回归模型BIC值为4450.550,5折交叉准确率为70.80%,AdaBoost模型结合logistic回归模型均略优于随机森林模型联合logistic回归模型和XGBoost模型联合logistic回归模型,因此选择AdaBoost模型结合logistic回归模型筛选出的变量进行解释分析。 ***模型结合logistic回归模型结果:经济因素中最近一周烟酒等花销大OR值大于1;家具家电及耐用消费品支出大、电子货币存款多、金融机构存款多、过去一年领到工资OR值均小于1。健康状况与功能指标中15岁以前的身体状况一般、自评健康非常满意、填写问卷求助程度、走1公里无法完成、去商店买食品杂货无法完成、家里没有电话、有腰疼OR值分别为1.822、1.603、1.449、1.416、1.881、1.690、0.748。体检指标中最近常规检查男女专科、常规检查心电图OR值分别为1.926、0.523。住房情况指标中室内整洁度一般、居住房屋可以宽带上网OR值分别为1.417、0.728。基本信息和生活习惯指标中男性、大专及以上学历、汉族、主要生活在城乡或镇乡结合区、若需要有配偶可以照顾、每周喝1-6次啤酒、一个月内有上网社交为认知异常的保护因素,OR值分别为0.611、0.240、0.651、0.626、0.765、0.428、0.501;80岁及以上年龄、婚姻一点也不满意、最近一个月睡眠时间超过8小时为认知异常的危险因素,OR值分别为1.776、2.465、1.352。 结论: 1.本研究数据AdaBoost模型联合logistic回归模型的组合优于随机森林模型组合和XGBoost模型组合。 2.本文最终筛选出了26个CA相关变量。CA患病风险男性低于女性,汉族低于少数民族。认知异常的相关因素有年龄、婚姻满意度、睡眠时长、15岁以前的身体状况、自评健康状况、室内整洁程度、文化程度、生活区域、饮酒频率等。经济指标显示经济越好越有利于延缓认知衰退。生活能力指标显示随着能力的

关键词： 机制砂混凝土   机器学习   氯离子扩散   碳化深度   SHAP分析   配合比优化设计  

摘要： 随着混凝土用量增加,天然砂的储量逐渐减少,采用机制砂代替天然砂进行混凝土的制备势在必行。而对于机制砂替代天然砂制备的混凝土耐久性缺乏相应的系统性研究。并且随着社会的发展,对混凝土自身性能的要求越来越高,这导致混凝土自身材料组成变得更加复杂,现有的性能预测方法和配合比设计公式并不适用复杂化的混凝土设计需求。机器学习在数据挖掘、非线性分析、预测和优化方面具有较强的能力,可以同时拟合得到多个输入与输出之间的非线性关系。因此,本研究选择利用机器学习方法来得到机制砂混凝土性能和成分之间的非线性关系,并在此基础上实现机制砂混凝土的配合比优化设计。主要研究内容如下: （1）利用极端梯度提升树（XGBoost）、随机森林（RF）、BP神经网络（BPNN）和支持向量回归（SVR）四种机器学习方法构建了机制砂混凝土氯离子扩散系数的预测模型。以机制砂混凝土自身材料组成和环境因素作为模型输入变量,以氯离子扩散系数作为模型的输出变量。并利用SHAP分析方法将原有的8输入变量降低为4输入变量,提高了模型的预测效果。此外,利用评价指标分析模型发现,XGBoost模型和BPNN模型的预测精度和泛化能力高于其他预测模型。 （2）利用BPNN、XGBoost、RF和SVR四种机器学习模型构建了机制砂混凝土碳化深度的预测模型,以碳化时间、CO2浓度、粉煤灰掺量、水泥用量、温度、相对湿度和水胶比作为模型的输入变量,以碳化深度为模型的输出变量。通过四种模型之间的对比分析,发现XGBosot模型在此数据集下表现的预测效果最好。此外,利用SHAP分析的方式得到不同变量的重要性排序及影响碳化深度的机理。 （3）利用NSGA-Ⅱ多目标优化算法建立机制砂混凝土配合比多目标优化模型。该模型的适应度函数采用氯离子扩散系数、碳化深度和混凝土材料成本三个因素,并通过设置相应的目标约束条件对机制砂混凝土的配合比进行了优化设计。试验结果表明,该多目标优化模型能够在保证氯离子扩散系数和碳化深度满足要求的基础上,有效降低混凝土的材料成本。 研究机制砂混凝土的耐久性能和影响因素之间的非线性关系对改善机制砂混凝土的耐久性非常重要。本文基于试验与机器学习方法结合的方式提出的机制砂混凝土耐久性模型,可为机制砂混凝土耐久性研究及配合比优化设计提供一种新方法,为完善机制砂混凝土的性能提供试验参考。

关键词： 城市轨道交通   站点分类   短时客流预测   OD客流预测   深度学习  

摘要： 城市轨道交通以其高效、环保的优点,成为缓解城市交通压力的重要手段。然而,随着城市规模扩大以及城市人口上升,轨道交通面临一系列挑战。为了应对这些挑战,提高轨道交通的出行服务水平、对系统进行智能化、精细化的运营管理至关重要。其中,车站级短时客流预测和网络级OD客流预测的实现是关键问题,前者有利于乘客了解未来客流演变规律,从而更灵活地安排出行计划,后者有利于轨道交通运营者掌握出行需求的变化趋势,有针对性地优化线路和调度。然而,客流预测涉及高维数据性、时空稀疏性和复杂时空相关性等影响因素,如何准确预测客流变化具有重要的研究意义。本文基于深度学习算法和交通工程理论知识,针对车站级客流预测和网络级OD客流预测问题,分别提出相应的预测模型,用来预测未来一段时间内的客流量。本文主要研究内容如下: (1)对杭州市轨道交通站点的客流预测进行时空特征分析和描述性分析,包括站点属性、周边用地性质、进出站客流趋势以及进出站客流量规模等方面。通过应用贝叶斯优化的DEC聚类算法,将网络内的站点划分为五大类别,包括居民住宅型、企业产业型、商务商业型、综合开发型和交通枢纽型。这一分类结果将为后续研究对象的选择提供依据。 (2)针对车站级短时客流预测问题,提出CEEMDAN-CSSA-LSTM组合模型。该模型从两个方面着手,即预测方法改进和模型性能提升,这一步骤旨在提高预测精度。在预测方法改进方面,涵盖数据降噪方法、预测策略以及时间步长的选择等方面。另一方面,通过改进麻雀搜索算法,用优化算法调整模型的网络参数。实验证明该模型的预测精度明显优于其他对比模型,从而验证调参在提升模型性能方面的重要性。 (3)针对网络级OD客流预测,提出CNN-LSTM-Attention组合模型。实验对象的选择采用动态时间规整方法,选取差异显著的站点作为研究对象,以验证模型的稳定性。该组合模型将OD对客流数据、各车站的客流数据以及各车站的站点属性等相关信息融合,构建卷积神经网络、长短期记忆神经网络和注意力机制的组合模型。这一模型能够有效提取输入数据的时空特征。实验结果表明,该模型的预测精度明显优于多种对比模型,包括ARIMA、LGBM、Transformer等模型,从而验证其具备一定实际应用价值。 综上所述,本研究通过深入分析轨道交通客流数据的时空特性,结合先进深度学习模型,构建适用于车站级和网络级客流预测模型。这些模型不仅能够为乘客提供准确的出行建议,也为轨道交通运营管理提供有力的决策支持。

关键词： 叶面积指数   机器学习   无人机   多光谱影像   玉米  

摘要： 为实现基于机器学习方法和无人机影像的叶面积指数(leaf area index,LAI)准确估测。本研究对比了人工神经网络法(Artificial Neural Network algorithm,ANN)、高斯过程回归法(Gaussian Process Regression algorithm,GPR)、支持向量回归法(Support Vector Regression algorithm,SVR)和梯度提升决策树法(Gradient Boosting Decision Tree,GBDT)等几种主流的机器学习方法在基于无人机影像的玉米LAI反演中的优劣。为此,开展了不同有机肥、无机肥、秸秆还田以及种植密度处理的玉米田间试验,在不同生育期获取了无人机多光谱影像和LAI数据。基于这些数据,首先通过相关性分析,选择对LAI敏感的光谱指数作为估测变量,然后分别耦合偏最小二乘法(Partial Least Squares Regression,PLSR)和ANN、GPR、SVR、GBDT建立LAI反演模型,并对它们进行对比分析。结果表明,PLSR+GBDT法构建的LAI反演模型精度最高,稳定性最好,建模R_(cal)^(2)和RMSE_(cal)为0.90和0.25,验证R_(val)^(2)和RMSE_(val)为0.90和0.29;与PLSR+GBDT模型结果最接近的是基于PLSR+GPR法建立的模型,其建模R_(cal)^(2)和RMSE_(cal)为0.86和0.30,验证R_(val)^(2)和RMSE_(val)为0.89和0.29,且具有训练速度快,并能给出反演结果不确定度的优势;PLSR+ANN法的建模R_(cal)^(2)和RMSE_(cal)为0.85和0.31,验证R_(val)^(2)和RMSE_(val)为0.89和0.30;PLSR+SVR法的建模R_(cal)^(2)和RMSE_(cal)为0.86和0.32,验证R_(val)^(2)和RMSE_(val)为0.90和0.33。因此,PLSR+GBDT法和PLSR+GPR法被推荐作为玉米LAI反演模型构建的最优方法。

关键词： 随机森林   神经网络   享乐价格   房屋定价  

摘要： 利用随机森林和神经网络等机器学习模型对合肥市二手房实际交易数据进行定价评估,并与传统享乐价格模型的定价评估相比较。基于这三种模型对二手房价的预测结果表明,机器学习模型的预测精度高于传统享乐价格模型,并且拟合优度也好于传统享乐价格模型,其中随机森林模型表现最优。研究结果表明,基于机器学习模型的房屋定价是一种切实可行的方法。