关键词： 生存分析   meta分析   神经网络   Stacking   前列腺癌  

摘要： 前列腺癌是中老年男性最常诊断出的一种非表征性癌症,近年来,随着人们生活习惯、饮食习惯、环境的改变,我国前列腺癌的发病率呈现逐年上升且年轻化的趋势,目前根治性手术是早期前列腺癌主要治疗手段,但晚期转移性前列腺癌或去势抵抗前列腺癌尚无有效治疗手段,每年有大量的患者因为该疾病而死亡,因此对前列腺癌患者的生存分析就十分有意义,通过结合机器学习中较为成熟的算法模型,去提高前列腺癌患者生存分析预测准确度,当精准度达到可以用于实际临床辅助时,就可以为医生在为前列腺癌患者给出治疗方案时提供帮助。 本文在基于了解到的前列腺的腺体组织结构、腺体病理分区以及现行诊断和治疗方案等临床知识的基础上,从数据库中取出与前列腺癌相关的数据,如患者的年龄、种族、前列腺特异性蛋白(PSA)以及发生转移类型等前列腺癌患者数据,再根据临床医学数据的筛选标准,结合统计学上处理和分析数据方法,对数据进行预处理,得到想要特征及标准数据后,再对数据进行一些基础分析和假设验证,建立模型预测了前列腺癌患者在六个月之后的生存状态,并使用了四个指标对预测效果进行衡量,分别是C＿index、AUC、nbll和brier分数。在模型方面,首先建立了Cox比例风险模型以及多个单一的机器学习模型,包括随机生存森林、GBM和神经网络模型,其次建立了多个连续时间和离散时间Cox+机器学习的模型,通过比较各种不同方法下模型的效果,选择表现最佳的两个模型作为初级学习器,在选择神经网络作为次级学习器构建了两个Stacking模型,分别是RSF＿net模型,Meta＿Stacking＿Survival模型。 通过验证,本文所考虑的这两个模型在前列腺癌数据集上均取得了较好的预测效果,C指数最高可达0.8939,AUC值最高可达0.8803,brier得分最小为0.0154nbll分数最小为0.0106,同时本次实验所使用的所有模型都是在同一数据集下运行。结果表明,本文提出的融合模型对于拟合前列腺癌数据集具有更高的可靠性和准确率。

关键词： 超售   收益管理   No-show预测   数据驱动   数据平衡  

摘要： 随着信息技术的不断发展,智能手机和信息系统的普遍应用。企业逐渐积累了大量包含客户、订单和产品等方面信息的运营数据。近年来,商界和学术界都高度关注如何通过深度分析这些数据来洞悉客户行为,并据此优化企业的运营和管理策略。虽然已经有研究致力于根据数据识别客户行为,进而优化运营决策,但实际应用对新商业模式下的公司来说面临着新的挑战。首先,网络提前预订的虚拟性增加了消费者订购服务过程的不确定性,对企业的运营和资源管理提出了新的要求;其次,网络预订的广泛普及为准确预测顾客行为提供了更为具体的数据特征,对酒店管理者的决策判断具有重要影响;此外,网络预订市场的开放性为服务业带来了更多机遇,同时也加剧了市场竞争。 基于酒店等服务业网络预订市场的独特特点,本文从企业实际运营数据出发,针对企业为抵抗顾客履行约定的不确定性而采用的不同超售策略场景,提出了需要研究的主要问题:(1)面对酒店实际运营中存在噪声信息的不平衡数据,为提高预测精度,能否考虑提供一个充分利用现有数据包含的信息,并不受噪声点或错标信息影响的数据平衡方法?(2)考虑顾客个人因素对其履约行为的影响,企业应如何利用异质信息预测顾客行为并据此提供一个由真实数据驱动的超售模型?(3)在产品细分下,企业面对高昂的超售成本,能否从顾客个人角度考虑提供多种房间类型的替换策略来满足不同的顾客需求而缓冲低价房的超售成本来增加收益?(4)在多渠道并行发展情景下,考虑包括三方旅游代理商与酒店的双渠道供应链销售,结合数值统计与管理者主观判断,企业应如何制定批发价格和超售政策来最大化其期望收益? 围绕上述问题,本文运用最优化理论、机器学习理论、模糊集理论、统计分析等基础理论,借助数学建模、比较分析、数值实验等方法,对信息化背景下,酒店的超售策略选择和最优超售量问题进行了建模研究。本文的主要研究工作、主要结论、理论贡献及应用价值如下: 首先,基于现实顾客预订数据广泛存在的不平衡结构以及可能的错标信息,本文旨在设计一种更为精准的处理不平衡分类问题的方法,以助于超售管理中对顾客行为进行更准确的预测。为此,本文通过构建结合K-Means聚类、模糊理论以及合成少数类过采样技术(SMOTE),给出了充分利用原数据包含的有效信息并避免噪声影响的数据平衡模型;对比分析了现有的数据过采样与欠采样模型,给出了其在真实数据上的局限性;最后基于六组不同的人工数据集,通过数值实验验证了模型结果。研究发现:过采样方法的性能要明显优于欠采样技术;另外,SMOTE方法及其拓展模型在实际中的应用要多于随机过采样方法;通过模糊理论对少数类点进行赋值,可以筛选出重要样本从而合成有效人工样本;此外,K-Means聚类方法可以减少不同类别点之间的重叠,进一步提高分类器的性能。这一发现能够方便有效地提高机器学习方法的预测准确性和稳健性,进而减少对后期收益管理决策的损失,甚至提高利润。 其次,针对酒店房间预订中的顾客临时取消以及No-show问题,本文通过酒店数据分析了影响预订者行为的主要因素,并对其影响程度进行了可视化分析,以便管理者在观测到预订者信息时提前考虑管理措施;在考虑顾客异质信息对消费者个人行为决策影响的基础上,对酒店的超售决策进行了建模研究,对比分析了传统平均超售以及随机超售方法下的最优超售数量和利润,并通过数值实验验证了本文提出的方法的有效性。研究发现:顾客异质信息的引入确实可以提高管理决策的准确性,进一步地提高收益。这一发现为酒店等服务业的收益管理输入提供了新的角度。此外,研究还发现,相对于同样基于机器学习预测的随机超售模型,本文提出的方法更能准确捕捉顾客行为,对酒店收益的提高有很大影响。 接下来,本文考虑了细分产品市场下房间的可替代问题,对多类型房间下存在产品差异的酒店的超售策略进行了研究。本文从顾客个人数据预测角度出发,通过构建两种房间类型超售和不超售、可替代和不可替代的情境下,酒店的期望利润最大化模型;对比了不同情景下基于真实数据的最优超售结果以及酒店期望利润,分析了超售以及可替代策略对商家决策、利润的影响,给出了不同条件下的最优服务模式选择。研究发现:顾客的异质信息对超售预订结果有显著的影响,更详细的预测信息将帮助管理者实现高质量的管理计划;其次,超售策略的出现降低了顾客临时取消或No-show带来的闲置成本,特别是在准确预测的前提下;另外,在有效预测的情况下,可替代的超售策略始终是酒店增加其收益的最佳选择;研究还进一步验证了房间可替代性可以在一定程度上抵消需求波动对酒店的负面影响。而且,顾客需求的波动性越大,数据驱动方法相对于传统模型的优势会越明显。 最后,本文考虑了与第三方代理商线上旅游公司(OTA)合作的双渠道超售情景。在数据分析的基础上,结合模糊决策理论,建模研究了该背景下考虑酒店管理者主观信息的最优超售策略

关键词： 量化投资策略   机器学习方法   定价因子   个股特征  

摘要： 量化投资本质上是通过对金融数据建模来预测股票或期货等金融产品的收益。基于机器学习的量化投资依然面临着诸多挑战,市场竞争加剧有降低了某些策略的效率。尽管如此,技术进步和数据获取能力的提升,尤其是近两年人工智能发展迅速,仍然使得该领域还具有巨大潜力。将机器学习应用于量化投资,不仅为投资提供了新的研究思路和建模方法,还有助于投资者更准确地预测股价,从而降低投资风险并提高收益。本文主要研究通过机器学习模型如何选择预期收益高,风险低的股票。研究过程如下:(1)下载沪深300成分股股票日频数据,对股票进行筛选并构建一系列的异象因子,预处理异象因子,使其符合机器学习模型输入要求。(2)构建机器学习模型网络模型,为了更充分利用样本数据,我们通过滚动方式将样本分为80%的训练集和20%的测试集用于模型训练。(3)紧接着我们将梯度提升树与支持向量机等六个机器学习模型与Ols模型全部进行评估比较,并发现前馈神经网络的评价指标优于其他六个模型。(4)模型优化,然后我们进一步讨论了第一层全连接层、激活函数、第二层全连接层、输出层以及优化器对前馈神经网络预测结果的影响并就行调参对模型进行相应优化。(5)建立投资策略根据前馈神经网络预测结果去构建具体的投资策略,并分析投资策略的收益。表现出色,多头策略和空头策略投资年化收益分别达到了70.62%、76.67%。(6)为进一步探讨前馈神经网络模型的有效性,构建基于前馈神经网络模型的沪深300选股策略,并通过总收益、夏普比率、年化收益率等指标来评估策略的表现与模型的有效性。研究结果表明,机器学习模型在量化投资中的有效性优于传统分析方法,特别是前馈神经网络。这些模型的适应性和学习能力是它们能够与市场变化同步、持续提供投资洞察的关键。研究结论认为,机器学习模型在量化投资中显示出较大的潜力和优势,能够识别出传统方法无法覆盖的复杂市场趋势和投资机会。投资者能更有效地管理风险、捕捉投资机会,从而可能提高投资回报。运用机器学习技术进行投资分析,是提升投资决策质量和盈利潜力的一种有效手段。

关键词： 公共管理研究   研究方法   机器学习   公共价值　　Public Administration Research   Research Method   Machine Learning   Public Value  

摘要： 社会数字化的发展使得机器学习方法愈加受社会科学研究重视。尽管机器学习方法对公共管理研究存在巨大价值，但该方法在现有公共管理文献中的运用仍相对有限。本文首先简要介绍了机器学习方法的基本原理和操作方法，然后整理分析了近年来国内外公共管理顶尖期刊上所发表文献中机器学习方法的具体应用，最后对该方法所面临的挑战和质疑进行了归纳和部分回应。本文认为，机器学习在公共管理研究中既可以作为一种数据收集与整理的研究方法，又可以作为一种数据分析的研究方法：首先，机器学习方法可以降低数据的收集成本，将非数值型数据转换为数值型数据，也可以用于非数值型数据的聚类；其次，在相关性分析的公共管理研究中，机器学习可以缓解“维数灾难”，即变量数过多导致的多重共线性以及过拟合问题，从而分析变量之间的非线性驱动作用；在因果推断类型的公共管理研究中，该方法主要用来分析异质性因果，但也可以结合其他因果推断方法从而估计平均处理效应，解决工具变量法、倾向得分匹配法、断点回归法、双重差分法和合成控制法在公共管理研究应用中所遇到的实践难题。然而，机器学习方法在实用易用性、结果解释性、研究可复现性等方面同样遭受质疑，“决策不透明”的铁笼有时也会诱发违背公共精神的风险。尽管如此，考虑到该方法潜在的巨大贡献，本文预计在公共管理研究中结合机器学习方法将成为一种新的研究趋势。

关键词： 机器学习   振动光谱   近红外光谱   卷积神经网络   光谱数据合成   医学图像分析   新型冠状病毒肺炎   模型的可解释性  

摘要： 众所周知,化学、物理、材料及生物医学等学科领域的研究过程中充满了“大数据”,从实验设计、实验过程、相关测试到实验验证等环节,科学家们都离不开数据的搜集、选择和分析。而建模分析是通过对已有实验事实（量测数据）进行归纳分析并形成可供应用之模型（模式）的基本思路。人工智能是计算机科学的一个分支,最擅长在海量数据中寻找“隐藏”的因果关系,毫无疑问它也逐渐被应用到各个学科领域中。随着以机器学习为代表的人工智能快速发展与应用,人们对于建模分析的研究与应用也有了更加深刻的认识。 本学位论文基于化学图谱和医学图像开展了系列机器学习方法及其应用研究,主要围绕两个问题展开:一是基于机器学习和深度学习的化学图谱建模分析方法的探索及其应用（第二章、第三章、第四章）,二是基于迁移学习的可解释深度学习医学图像分析方法研究（第五章）。各章节主要内容如下: 正如新型冠状病毒肺炎（Coronavirus disease 2019,COVID-19）大流行期间的大规模核酸检测工作,快速准确地检测感染患者对于控制传染病的传播至关重要。因此,必须通过早发现、早治疗和阻断病毒传播链来降低新冠病毒的传播。本章工作提出了一种基于改进灰狼优化算法（Grey wolf optimization,GWO）的支持向量机（Support vector machine,SVM）分类模型GWO-SVM,用于受试者唾液傅里叶红外（FTIR）光谱和血清拉曼光谱的分析,以快速筛查COVID-19患者。为了获得具有更好泛化性能的分类模型,我们通过改进GWO优化并确定SVM的最佳超参数（惩罚系数和核函数系数）组合,建立了分类预测模型,分别用于区分唾液FTIR光谱和血清拉曼光谱,并计算分类模型性能评估指标。同时,还测试了包括线性判别分析、k-最近邻、随机森林、朴素贝叶斯和基于网格搜索（Grid search,GS）的SVM（GS-SVM）在内的其他五种机器学习方法作为参考。结果表明,对于唾液FTIR光谱测试数据集,GWO-SVM模型的准确率、特异性和F1-score值分别为0.9825、0.9714和0.9778;对于血清拉曼光谱测试数据集,GWO-SVM的平均准确率、特异性和F1-score值分别为0.9085、0.9552和0.9036,优于其他分类模型。因此,基于唾液FTIR光谱和血清拉曼光谱的GWO-SVM模型有望用于COVID-19患者的临床快速筛查。根据实验结果,与其他机器学习技术相比,本论文所提出的GWO-SVM模型具有更好的预测性能。因此,振动光谱结合GWO-SVM模型可应用于COVID-19检测,以提高临床及时诊断的准确性。（第二章） 数据合成是通过对已有数据添加微小改动或从已有的数据新创建数据,以增加数据量的方法,缓解了深度学习中数据不足的问题。作为一种数据获取的补充方法,数据合成主要是增加训练数据的多样性,从而提高模型泛化能力。本章工作比较了两种数据合成技术在有限光谱数据条件下在两种深度学习模型上的性能表现。数据合成方法包括基于统计学方法的加权混合和一种深度生成模型变分自编码器（Variational Autoencoder,VAE）。我们在COVID-19拉曼光谱数据集上训练了一个卷积神经网络（Convolutional Neural Network,CNN）和一个全连接神经网络（Fully-Connected Neural Network,FCNN）,用于识别新型冠状病毒的健康与阳性患者。与加权混合方法相比,VAE需要更多的训练时间,合成数据结果是非确定性的,并且需要对参数空间进行详尽的搜索。但是,通过改变模型架构、潜变量空间设计和添加的噪声量,VAE可以使新样本保持在一个真实的样本空间中。即使在训练数据有限的情况下,VAE也可以产生大量且规律变化的逼真合成光谱。研究结果证明了数据合成方法具有改善深度学习模型和克服过拟合以及维度诅咒等问题的潜力。（第三章） 近红外光谱（Near infrared spectroscopy,NIR）通常具有较高的数据维度,其中许多波长数据点可能对所关注的分析目标没有贡献。深度学习技术在NIR分析中的应用已经取得了显著的进展,它能够处理大规模和高维度的数据,提高了模型的预测准确度。尽管NIR检测技术在药品检测中有着广泛应用,但检测模型共享问题成为该技术推广应用的瓶颈。本章构建了一种基于深度学习技术的NIR一维卷积神经网络模型共享方法,实现了药片主要活性成分检测模型的智能共享和更新评价。采用基于高斯过程回归（Gaussian process regression,GPR）的贝叶斯优化（Bayesian optimization,BO）对模型超参数进行优化。结果显示,BO-CNN定量模型在数据集1和数据集2上的预测2分别为0.986和0.

关键词： 乳腺癌   HER2表达状态   乳腺X线摄影   超声   机器学习  

摘要： 人类表皮生长因子受体2(HER2)是一种具有酪氨酸激酶活性的跨膜受体蛋白,大多存在于肿瘤细胞表面,可激活乳腺癌癌细胞增殖信号通路,在肿瘤增殖、迁移及耐药性产生过程中发挥一定作用。2021年《中国临床肿瘤学会(CSCO)乳腺癌诊疗指南》在原有定义的基础上,将IHC1+或IHC2+/ISH-的患者定义为HER2低表达。相比于HER2不表达而言,HER2低表达的乳腺癌被认为是一个具有更为特殊生物学行为的亚组。既往研究大多利用单模态信息研究乳腺癌分子分型,部分研究将HER2表达状态视为二分类问题,即阴性及阳性。较少研究尝试完成HER2表达状态的三分类任务。既往HER2阴性的肿瘤不具备常规抗HER2疗法的靶点,而最近的多项临床药物试验表明研究对象药物不仅对HER2过表达乳腺癌疗效显著,对HER2低表达乳腺癌患者也有临床活性;而HER2低表达与不表达患者的临床特点、治疗反应以及预后也存在一定差异。这对现今临床上HER2的二分类提出了挑战,传统的HER2二分类诊断模式已不能满足临床需求。 本研究联合乳腺X线、超声影像征象及临床信息,以免疫组织化学检测结果为金标准,构建乳腺癌HER2表达状态的三分类机器学习预测模型,并可视化最优模型的决策过程。 一、材料与方法 1.研究对象 回顾性收集南方医科大学南方医院2019年6月至2022年6月经病理证实为乳腺癌患者632例,平均年龄51岁。所有纳入患者均具有完整的病理资料、乳腺X线与超声影像数据。 2.研究资料 根据免疫组织化学(Immunohistochemistry,IHC)及荧光原位杂交(Fluorescence In Situ Hybridization,FISH)试验 FISH 实验确定 HER2 不同表达状态。HER2为0时归入不表达组,HER2(1+)或HER2(2+)且FISH检测阴性时为低表达组,HER2(3+)或HER2(2+)且FISH检测阳性时为高表达组。纳入患者的临床特征,包括年龄、月经初龄、结婚年龄、首胎年龄、哺乳史、绝经情况、乳腺癌家族史、血压、癌胚抗原CEA、糖原蛋白CA125、糖原蛋白CA153。评估患者全视野数字化乳腺X线摄影(FFDM,Full-Field Digital Mammography)/数字化乳腺断层摄影(DBT,Digital Breast Tomosynthesis)与超声的影像学征象,纳入研究分析。 3.统计分析 第一部分:使用SPSS27.0及R Studio 4.0.3对数据进行统计学分析。对纳入的特征进行单因素χ2分析,提取P<0.1的特征;将提取的特征作自变量,良恶性作为因变量,运用二元logistic回归分析,获取统计学上有显著意义(P<0.05)的特征。入选特征根据OR值大小分为保护因素及危险因素,构建基于临床特征及乳腺影像特征的HER2表达状态分类预测模型。应用ROC曲线评价评分模型的预测能力。 第二部分:使用SPSS27.0及R Studio 4.0.3对数据进行组间比较,并通过Bootstrap法比较三分类模型的宏平均AUC值。 4.机器学习预测模型构建 采用Python 3.7完成数据的预处理与下文中机器学习预测模型的构建与验证工作。首先,针对部分临床特征中的缺失值,采用随机森林插补法对其进行插补。其次,将数据集中的连续型变量进行最大最小值归一化处理。最后,以7:3的比例对数据集进行随机分层抽样,随机划分为训练集和测试集。 基于临床特征、乳腺X线图像特征以及超声影像特征,采用随机森林(Random Forest,RF)、极端梯度提升机(Extreme Gradient Boosting,XGBoost)、支持向量机(Support Vector Machine,SVM)、K 近邻(K Nearest Neighbors,KNN)、逻辑回归(Logistics Regression,LR)五种算法构建乳腺癌HER2表达状态的三分类预测模型。在训练集中,采用五折交叉验证(Cross-Validation)训练机器学习模型,通过网格搜索(Grid Search)方法在训练过程中遍历指定参数组合,寻找模型的最优超参数,完成分类模型的训练工作。在训练完成之后,使用独立的测试集验证模型的分类性能,计算三分类模型得到总体准确率(Accuracy)以及宏平均(Macro-Average)和微平均(Micro-Average)的精确率(Precision)、召回率(Recall)、F1-score、受试者操作特征(Receiver Operating Characteristic,ROC)曲线下面积(Area Under Curve,AUC)。采用 SHAP(Shapley Additive Explanation)方法

关键词： 糖尿病预测   离群值处理   不平衡数据处理   卷积神经网络  

摘要： 根据世界卫生组织发布的最新数据显示,全球糖尿病患者数量呈不断增长的趋势,从1980年的1.08亿增长至2021年的5.37亿,预计在2050年将达到13.1亿。通常,早期糖尿病难以被察觉,直至出现并发症才会引起重视。尽管现有的医疗水平已经高度发达,但目前仍缺乏有效的糖尿病治疗方案,因此,尽早地发现并做出及时的干预显得尤为重要。随着人工智能的不断发展与进步,越来越多的学者将机器学习相关算法应用于疾病预测领域,并且取得了显著的成效。然而,现有的糖尿病预测方法中仍然存在以下问题:(1)离群值问题。糖尿病数据集中,离群值是由于测量错误、数据输入等原因所导致的,而离群值的存在会影响分类器的学习效果;(2)不平衡数据问题。在糖尿病数据集中,不平衡数据主要表现为患病样本数量远远少于未患病样本的数量。这种情况可能导致模型在训练过程中,更倾向于对多数类样本的学习,而忽略了少数类样本,从而降低对少数类样本的学习效果;(3)分类器问题。传统的分类算法存在一定的局限性,特别是在特征学习方面。此外,对于复杂的非线性关系建模,传统的分类算法表现亦显不足。值得注意的是,在大多数研究中,对上述三个问题未进行深入讨论与解决。 基于上述问题,论文做了具体的分析和研究工作,具体研究内容如下。 (1)提出一种基于四分位数与Kolmogorov-Smirnov检验(以下简称KS检验)的离群值处理方法。该方法首先使用四分位距对离群值进行检测,随后通过KS检验评估离群值所在特征的数据分布情况,根据不同的特征分布情况,选择均值或中值进行替换,确保替换数据的匹配度。具体而言,如果离群值所在特征呈正态分布,则使用相应的均值进行替换;反之,则选择中值进行替换。该方法避免了直接删除离群值所在行或列所导致重要原始数据丢失问题,同时解决了直接使用均值或中值替换所导致的替换数据匹配度不高的问题。在PIMA糖尿病数据集上进行测试,结果表明,论文所提出的方法优于直接删除离群值所在行或列、直接使用均值或中值替换的处理方式。 (2)提出一种基于样本空间划分与K近邻算法的不平衡数据处理方法,旨在有效识别噪声数据并生成高质量的合成数据。在该方法中,首先利用K近邻算法对样本空间进行划分,将样本空间划分为安全部分、边界部分及噪声部分,具体的划分是通过分析每个样本K个最近邻居的属性来确定其在空间划分中的归属。对于被识别为噪声的样本,采取删除处理。而对于删除操作后的数据集中的少数类样本,采用一种全新的过采样方法进行处理,该过采样方法突破传统合成少数类过采样技术的限制,对合成规则进行一定的拓展,有效避免了在合成数据时生成噪声数据,同时还避免了合成的新数据导致多数类与少数类数据边界被模糊的问题。最后,在24个不平衡数据集上进行测试,使用随机森林算法和支持向量机算法完成分类任务时,相较于几种常见的不平衡数据处理算法,论文提出的方法在召回率、F1值、G均值和AUC等指标上表现更优秀。 (3)设计了一种用于糖尿病预测的卷积神经网络模型。设计的卷积神经网络模型由卷积层和全连接层构成,经过全面验证,充分证实了其在糖尿病预测方面的可行性。在验证过程中,将该模型与传统机器学习分类方法、基于随机森林改进的算法及长短期记忆网络进行比较,包括在未做任何处理情况下的对比,仅对数据集进行离群值处理情况下的对比,对数据集进行离群值处理与不平衡数据处理情况下的对比,以及对数据集进行离群值与不平衡数据处理且对传统机器学习分类算法使用网格搜索优化超参数的情况下的对比。实验结果表明,论文所提出的卷积神经网络模型在PIMA糖尿病预测中表现出色,达到了最佳效果。