摘要： 摘要旨在建立并验证一种基于多参数MRI的影像组学模型用于肺部病变分类,并确定最佳的机器学习方法。材料与方法回顾性分析201例(恶性143例,良性病变58例)

关键词： 主控因素   支持向量机   随机森林   初产预测   长短期记忆神经网络   时序产能预测  

摘要： 近年来世界范围内已发现火山岩油藏储量快速增加,我国在新疆等地相继发现多个火山岩油藏,其勘探开发展现出良好的前景。但是由于火山岩油藏储层双重介质的特殊性,目前油井产能的主控因素仍不明确,并且产能预测的相关方法不够完善,油田现场开发没有统一的指导理论,影响火山岩油藏开发水平的提高。因此,有必要明确火山岩油藏产能的主控因素,并建立产能预测方法。本研究从数据分析的角度,使用机器学习方法并结合数值模拟和油藏渗流机理,研究火山岩油藏压裂水平井的产能。首先介绍了主要研究方法机器学习的基础知识,基于目标区块及邻近区块总结了火山岩油藏的开发特征,建立了油藏数值模型;其次利用数值模型进行了基于单因素的敏感性分析,从机理上定性研究了不同因素对油井产能的影响,根据正交实验方法设计了产能研究数据样本库,使用灰色关联分析方法定量确定了产能的主控因素;然后基于正交实验设计的数据样本,使用多元线性回归,随机森林和支持向量机分别建立油井初期产能的预测方法,并设计了测试实验对比优选了初期产能的预测模型;最后分别对数值模拟器输出的简单产能曲线和油田现场的实际生产曲线使用递减规律和神经网络建立了油井的时序产能预测模型。研究发现:(1)火山岩油藏压裂水平井产能的影响因素中基质孔隙度、裂缝孔隙度、NTG主要保证油流的储存和供给,天然裂缝倾角、底水大小、避水高度对油井的产水和油藏的能量供给起决定作用,天然裂缝密度、水平井长度、压裂缝级数对油井初产的影响较大。油井初期产能的主控因素为天然裂缝密度,水平井长度,压裂缝级数,避水高度和天然裂缝倾角;(2)基于随机森林方法和支持向量机方法建立的初期产能预测模型预测结果的误差小于常规的多元线性回归方法,而且支持向量机产能预测模型精度最高,通过邻井和已有的地质、生产数据预测得到油井初期产能后,根据区块的递减规律,可以基本确定油井的产能;(3)对变化规律简单的产量曲线和变化复杂的产量曲线,建立了时序产能预测模型,结果表明,对于变化规律简单的产量曲线,长短期记忆神经网络(LSTM)和时间序列预测方法差分整合移动平均自回归模型(ARIMA)的误差较小。产量变化模式复杂时,长短期记忆神经网络的预测性能最好,给出的预测结果较为可靠。

关键词： 日常消费类上市公司   成长性   XGBoost模型   LightGBM模型  

摘要： 日常消费品支出是居民生活所必不可少的支出,日常消费品行业具有稳定性强、增长性好的特点,成为了众多投资者的不二选择。而成长性作为衡量上市公司生存和发展能力的客观标准,显得十分重要,对成长性进行分析可以为投资者和公司管理者提供更为有效的帮助。本研究选取了沪深股市日常消费品行业的151家上市公司2014年至2019年的财务数据作为研究对象,通过对现有文献中关于企业成长性评价指标体系的构建、影响企业成长性的因素和成长性预测模型的构建的论述,选取了四个财务指标来评价日常消费类上市公司的成长性,他们分别为主营业务收入、资产总额、扣非净利润、利润总额,运用主成分分析提取四个变量的主成分,通过增长率分析将增长率大于零的定义为具有成长性,否则为不具有成长性,并以此为因变量;分别从企业自身角度和经济金融市场角度选取影响日常消费品上市公司成长性的26个指标,采用相关性分析的方法对选取的26个指标进行筛选,保留相关程度低的指标并删减相关程度高的指标,最终对七个指标进行了剔除,将余下的19个指标作为自变量,构建Light GBM和XGBoost分类模型。通过对Light GBM和XGBoost模型进行对比分析得出:总体而言Light GBM模型在预测日常消费品上市公司成长性时更优;通过对指标重要性进行排序得出盈利能力指标在预测日常消费类上市公司成长性时最重要,其次是营运能力指标,并且净资产收益率是盈利能力中最重要的指标,总资产周转率是营运能力中最重要的指标;日常消费类上市公司成长性受经济金融市场变动的影响较小。因此,投资者和企业管理者应当对公司的盈利能力和营运能力予以高度重视,特别是净资产收益率和总资产周转率这两个指标。

关键词： CT   肺鳞癌   肺腺癌   影像组学   深度学习  

摘要： 肺癌的发病率和死亡率中在恶性肿瘤均位于首位,在中国也是最为常见的恶性肿瘤。肺癌的不同组织学亚型有不同的生物学行为,恶性程度、转移倾向、不同治疗敏感度等需要进行肺癌组织学诊断后才可得出结论。临床上组织学检查有多种取样方法,但均为有创的检查手段。电子计算机断层扫描(Computed Tomography,CT)影像是肺癌诊断的有效方法,本文基于CT影像,采用机器学习方法,探寻人工智能技术对肺鳞癌与肺腺癌分类的应用价值。本研究首先使用影像组学机器学习技术针对193例CT影像的病灶提取包括灰度统计量的强度特征、肿瘤形状-大小特征以及多种纹理特征的1409个特征,使用合成少数过采样方法(synthetic minority oversampling technique,SMOTE)对训练集的特征进行数据扩充,以消除不同子类型之间的不平衡,采用方差分析与最小绝对收缩和选择算法进行特征筛选,选择出对鳞癌与腺癌分类更有价值的特征。使用支持向量机(support vector machine,SVM)、逻辑回归(logistics regression,LR)、多层感知机(multilayer perceptron,MLP)方法构建不同的传统机器学习模型,并使用网格搜索结合5折交叉验证的方式选择最优模型参数,使用受试者工作特征曲线(receiver operating characteristic curve,ROC)、敏感性及特异性进行模型评估。结果显示,71个特征具有良好效果,使用独立测试集对机器学习模型评估发现,MLP和LR显示出良好性性能,SVM的模型效果较差。本研究尝试使用深度学习技术实现肺癌两种亚型端到端的分类,采用迁移学习弥补数据量较少的缺陷,应用组归一化(Group Normalization,GN)改进深度残差网络(residual networks,Res Net),搭建Res Net GN深度学习网络,对肺结节良恶性分类的源网络进行微调(fune tuning)。首先针对图像获取合适的网络输入作为感兴趣区域(region of interest,ROI),将数据分为训练集和测试集,对训练集数据进行旋转、镜像的扩充,随后经预处理之后裁剪不同的大小输入经预训练的Res Net GN网络。优化网络参数后显示,针对193例数据的分析中,Res Net GN的2D模型效果优于3D模型,且迁移学习对模型性能有较大提升。本文对比了三种传统的机器学习方法以及不同输入大小的深度学习方法,深入挖掘影像信息,获取肺癌的影像特征,构建了基于CT影像的肺腺癌与肺鳞癌分类模型。实验证明,机器学习方法具有较强的影像信息挖掘能力,经更多数据学习、多中心验证后可应用于临床实践,进而辅助医师制定合理治疗方法。图30幅,表4个,公式15个,参考文献51篇。

关键词： 重力勘探   三维聚焦反演   机器学习   异常体识别  

摘要： 过去数十年，以地面重力测量为基础，陆续出现了海洋、航空重力测量以至卫星重力测量。测量参数从相对、绝对重力标量值，到重力矢量测量与重力梯度测量，并且测量精度和工作效率大幅提高，对重力高精度反演的速度和算法分辨能力提出新的要求。同时，当前信息科学前沿领域理论研究与应用技术迭代更新速度飞快，出现了诸多值得地球物理反演借鉴的方法理论。以此为背景，以重力场基本理论为基础，融合最新的算法理论及技术，进行重力反演新方法研究。主要研究内容与取得的成果如下:　　(1)基于计算机编程语言与运算特征两个方面优化正演算法计算效率，为反演研究工作奠定坚实的基础。比较了8种计算机编程技术，最终选定运算效率最高的Fortran Rogue IMSL程序库作为正反演计算的编码语言。根据计算机运算基本单元的耗时差异，经过推导优化了长方体重力及重力梯度计算公式，提高正演及反演的计算效率。　　(2)重力聚焦反演可清晰反映地下异常体密度分布的边缘及形态。基于聚焦模型解密度分布特征明确的特点，提出细化单元剖分源网聚焦反演策略。在模型实验中，相比于常规的固定源网聚焦反演，细化单元剖分源网聚焦反演迭代计算耗时缩短一半以上。同时，对水平双体模型、不同尺寸和埋深的双体模型均表现出比固定源网聚焦反演更好的分辨能力。尤其对于模型的底部边界或埋深大的模型，分辨能力显著优于固定源网的聚焦反演。在实测数据反演实验中，利用Kauring地区的实测数据，将反演结果与前人做比较，对异常体的顶底分辨与前人结果一致，说明该方法适用于实测数据。　　(3)融合线性聚焦反演与非线性贝叶斯反演，以聚焦反演的线性解为基础，引入形态学梯度概念分析聚焦解的密度图像，得到贝叶斯扰动建议概率。进而基于扰动建议概率实施贝叶斯扰动采样，得到贝叶斯最大似然解。在模型实验中，聚焦贝叶斯反演对模型边缘及形态的反映比聚焦反演更明确，显著提高反演分辨能力，尤其是分辨出垂向分布的独立模型。用Kauring地区的实测数据进行反演，反演结果与前人相一致，说明该方法适用于实测数据。　　(4)将深度学习与重力异常体识别结合，基于近年来在图像识别领域取得优异效果的卷积神经网络，形成适用于异常体识别的卷积神经网络模型。在训练中，随机生成大量不同参数的三维异常体模型，用异常体模型参数标签和重力数据训练卷积神经网络。在模型算例中测试训练好的网络模型，其识别准确性良好。同时，相比于传统神经网络从二维重力测线中识别异常体的埋深，卷积神经网络可从二维的重力数据识别三维异常体的埋深和大小信息。最后，将网络应用于Kauring地区以及Vinton盐丘重力观测数据，异常体识别结果与前人研究结果相符。说明卷积神经网络具泛化能力，可用于识别实测重力异常体，结果可靠。

关键词： 穿墙雷达   机器学习   墙参预测   目标定位  

摘要： 穿墙雷达定位(through-the-wall radar imaging,TWRI)是电磁逆散射问题中的一种,是根据已知的入射电磁场和采集到的散射回波,探测墙体或障碍物后方目标的物理(或几何)特性,包括目标的位置、大小、形状、数目甚至电磁参数等。该技术可以满足震后救援、城市反恐、目标识别、城市巷战等多样化的探测需求,对应用科学有着重要的实际意义。近年来,由于计算机技术的飞速发展,伴随着机器学习研究热潮的到来,将机器学习应用于穿墙雷达是一个十分新颖且具有探索性价值的研究方向。本文主要从机器学习方法、墙体参数预测、墙后目标定位等方面开展相关研究工作,主要研究内容包括:1、介绍了常规支持向量机(Support Vector Machine,SVM)、最小二乘支持向量机(Least Squares Support Vector Machine,LS-SVM)以及极限学习机(Extreme Learning Machine,ELM)三种机器学习方法的基本理论,详细推导了相关训练算法。2、提出了一种利用机器学习来预测墙体参数(相对介电常数、厚度以及电导率)的方法。实验通过两种不同的支持向量机(支持向量机SVM;最小二乘法支持向量机LS-SVM)训练预测模型,通过模型预测多组墙体参数以验证此方法的可行性和高精度性。考虑到实际应用,仿真还验证了在墙后存在干扰目标情况下的预测结果,结果表明在此情况下也能够很好的预测墙体的相对介电常数与厚度。3、利用支持向量机解决墙体后方目标的定位问题,结果表明此方法能够在三维环境中有效的预测目标的位置。在墙后存在多个目标的情况下,利用了目标回波信号具有双曲线这一特性,来解决目标与目标回波间的匹配问题,从而实现了多目标的定位。仿真结果验证了该方案的可行性。4、提出了利用核极限学习机解决穿墙雷达实时定位问题,与支持向量机方法在定位质量与效率上作比较,研究结果表明利用极限学习机方法能够在保证定位质量的同时兼具更高的定位效率,可用于实时定位。在验证该方法的定位质量时,实验考虑了噪声的影响,对不同信噪比下的定位效果作出分析;考虑对不同大小目标的定位性能,对不同半径目标的定位质量作出分析。

关键词： 智能医疗   训练样本   机器学习   非平衡数据   图像识别   特征提取   级联学习  

摘要： 近年来，随着机器学习技术的兴起尤其是深度学习技术的蓬勃发展，人类社会迎来了人工智能的黄金时代。在新时代背景下，大量卫生保健数据加速创建，传统医疗正逐渐向智能模式转变。如何从海量电子病历中获得有价值的医学信息，是智慧医疗发展的需求，也是目前构建智慧医疗体系所面临的重大挑战。　　相关实验研究表明，大量的准确标注的训练样本是使用机器学习方法获得准确率高、泛化性能好的模型的基础。然而，在医疗领域，对于某些发病率较低的疾病，柱柱没有足够的病例数据。如何从少量的病例样本中泛化罕见的类别，是智能医疗领域的难点问题，同时，也是机器学习领域的热点间题，具有重要的现实意义。　　在实际医疗场景下，有两类典型的训练样本数据不足的情况：一类是高度非平衡的病例数据。以产前筛查数据为例，这类数据一般是结构化文本，由于疾病发病率低，阳性样本少，且特征之间具有未知关联性，学习难度很大。另一类是小样本医疗影像数据。由于某些疾病的亚型种类很多，某一类亚型的样本数量相对较少，使用数据饥饿的深度学习框架学习这类图像的时候柱柱会发生过拟合现象，从而致使该类亚型疾病的识别准确率极低。本文主要针对以上两种情况开展相关的研究工作。　　对于高度非平衡数据的学习方法研究，本文针对单一的有监督学习和无监督学习方法不能兼顾检出结果的假阳性率和检出率的现象，提出有监督和无监督学习相结合的级联学习方法CVIFLR（Casbaded Framework of Voting Isolation Forests and Logistib Regression）。该方法通过级联的模式，将无监督学习的泛化性和有监督学习的精准性相结合。摆脱了传统的基于重采样技术的非平衡学习方法的模式与弊端，全面提升分类性能。本文使用吉林省产前筛查数据作为实验数据集，在该数据集上对比分析常用的非平衡学习方法，利用CVIFLR框架筛选最优的输人特征组合，训练具有地方特色的产前筛查模型。　　对于小样本图像的识别方法研究，本文在对比分析基于度量（Metrib-based）的小样本学习方法的基础上，针对其特征提取网络深度较浅，特征提取能力不足的问题，引人Dense Layer结构。在加深网络深度的同时，提高网络的特征和梯度的传递效率，克服网络加深而产生的过拟合现象。通过对抗学习的方法来训练模型，进一步提高网络的泛化能力和小样本图像识别的准确率。　　实验结果表明，本文提出的CVIFLR级联算法，对高度非平衡的文本病例数据有很好的分类效果。在类别比例为阴性：阳性=10244：108的吉林省唐氏综合征产前筛查数据集上的分类性能优于现有的非平衡学习方法，通过参数调整，AUROC可达到0.99。而本文提出的两种原型网络改进算法（DenseP-net，GAN-DPN），能从少量的样本图像中提取具有泛化能力的类别特征，在小样本学习常用的miniImageNet数据集上做5-way1-shot和5-way5-shot分类任务，识别准确率均高于原始的原型网络算法。本文的三个算法为不均衡数据异常发现和小样本图像识别提供了有效方法，在医学、军事、工业等领域都具有一定的应用价值。

关键词： 热连轧   板凸度   遗传算法   深度学习   主动学习  

摘要： 本文以国内某钢铁企业2160 mm热连轧生产线为背景,基于生产过程的数据和热轧带钢板凸度控制的相关理论,提出并建立基于人工智能技术的高精度板凸度预测及故障分类模型。本文的主要研究工作如下:(1)结合实际热连轧生产线的工艺背景及数据传递原理,分析轧机的控制方式,筛选影响板凸度的关键特征。针对热轧带钢工业现场数据,提出收集、异常值剔除及数据降噪的预处理方案,并对输入特征进行归一化处理,为后续的板凸度建模分析奠定基础。(2)建立基于神经网络的热轧板凸度预测模型,以MSE和R为指标,研究模型关键的超参数对预测性能的影响。采用MSE、R、MAE、MAPE和RMSE作为最终模型的评价指标,构建基于深度学习的最佳板凸度值预测模型,RMSE为2.06 μm,MAE为1.39μm,MAPE为2.55,且97.04%的样本的实测值与预测值的绝对误差小于5μm。充分考虑热轧的轧制过程机理,提取带钢宽度、窜辊量、轧制力、弯辊力等关键参数对板凸度的影响规律,证明基于数据驱动的板凸度预测模型符合实际物理规律。(3)以深度置信网络为核心,构建带钢板凸度分类模型。基于热轧过程实际数据拥有多类别且类别不平衡的特性,采用SMOTE算法处理少数类样本,提出一种改进的主动学习框架提高模型的分类性能,并采用5组标准数据集用于验证框架的有效性。对于实际热轧数据,研究选择策略中样本的选择数量及高斯核函数对模型性能的影响,利用G-mean和MAUC为模型评价指标,通过5次5折分层交叉验证,获取稳定的分类结果。AL-SMOTE-DBN 的综合性能为最优,其 F1-Macro 为 0.7140,F1-Micro 为 0.8179,G-mean达到了 0.8109,标准差为0.0507;MAUC为0.9522,标准差为0.0241。综合分析评价指标,AL-SMOTE-DBN具有良好的分类性能和模型稳定性。

关键词： 单核苷酸多态性   机器学习   神经网络   LightGBM   高血压  

摘要： 高血压是常见的慢性病之一,是一种基因与环境共同作用的多基因遗传疾病,也是心血管疾病的重大风险因素之一。近些年来,全基因组关联分析(Genome-wide Association Study,GWAS)在研究基因与疾病的关联方面,取得巨大成就。截止到2020年3月,GWAS已经发现与各种疾病或性状相关的单核苷酸多态性(Single Nucleotide Polymorphism,SNP)位点超过12万个。随着与高血压有关的SNPs的发现,研究者可以从基因层面上探究遗传因素对高血压疾病的影响。近几年来,机器学习中使用数据驱动的模型和学习算法成为图像处理、自然语言处理和目标检测等领域的研究热点,也有很多学者将机器学习方法运用到医学问题中,例如医学影像的诊断。本论文使用目前GWAS发现的与血压调控有关的SNPs,以机器学习方法为基础,尝试对高血压疾病风险进行预测。预测包括对高血压患病状态的预测和血压值的预测,其中血压值包括收缩压(Systolic Blood Pressure,SBP)、舒张压(Diastolic Blood Pressure,DBP)和脉压差(Pulse Pressure,PP)。采用的机器学习方法包括基于前馈全连接网络的人工神经网络(Artificial Neural Network,ANN)和Light GBM(Light Gradient Boosting Machine)方法。ANN在大样本问题上优于一般机器学习方法,Light GBM能为每个输入的特征提供重要性评分,从而识别出对高血压和血压值预测能力较强的SNPs,为探究基因之间的交互作用提供线索。本论文使用的数据来自UK biobank,使用的数据样本量是214,867,预测变量分为三大类:(1)年龄、性别、身高体重指数(Body Mass Index,BMI)三个影响高血压的常见因素;(2)与心血管、肾和血球计数有关22个生物标记物;(3)与血压调控有关的602个SNP位点。本论文主要的工作和结果如下:在使用所有预测变量和50个节点的单隐藏层ANN的高血压风险预测模型中,高血压患病状态预测模型的准确率为0.8392,AUC(Area Under Curve)值0.9128;预测血压值解释了SBP、DBP和PP血压值方差的26.75%、23.93%和24.36%。通过使用不同类别预测变量进行预测并对结果进行比较,我们发现各类预测变量对结果的影响基本成加性关系。在单隐藏层单节点ANN中,只加入年龄、性别、BMI这三个预测变量,高血压患病状态预测模型的准确率为0.7751,对SBP、DBP和PP血压值方差的解释分别为16.06%、12.74%和17.61%。SNP的加入使准确率增加了0.0268,对SBP、DBP和PP血压值方差的解释分别增加了2.99%、3.20%和3.14%。生物标记物的加入使准确率增加了0.0453,对SBP、DBP和PP血压值方差的解释分别增加了7.31%、7.78%和4.57%。这表明SNP数据的加入可以提高模型的预测能力,但是预测能力远远低于性别、年龄、BMI等影响高血压的常见因素,也低于与心血管等有关的生物标记物。SNP和生物标记物的加入使准确率增加了0.061,对SBP、DBP和PP血压值方差的解释分别增加了9.42%、11.16%和7.50%。多隐藏层ANN的结果和单隐藏层ANN的结果基本相同,这说明SNP-SNP交互作用以及SNP-生物标记物交互作用对高血压和血压值的预测能力非常小。基于Light GBM模型的结果与基于ANN的结果相近。使用所有预测变量,基于Light GBM的高血压患病状态预测的准确率为0.8349,AUC值0.9148;预测血压值分别解释了SBP、DBP和PP血压值方差的27.17%、23.96%和25.83%。根据Light GBM对预测变量的重要性排序,SNP对于高血压和血压值的预测重要性也明显低于年龄、BMI和生物标记物。另外,在所有SNPs中,排名整体比较靠前的有5个,分别为:11643209、rs4385883、rs2521501、10787517和rs592373。

关键词： 机器学习方法   无监督特征选择   机器学习模型   弱监督学习  

摘要： 近年来,随着学术界与工业界在机器学习和人工智能领域投入的关注越来越多,相关技术飞速发展,机器学习已经在社会生活的方方面面获得广泛应用,并产生了巨大价值.随着机器学习模型应用场景的不断扩大,越来越多的问题难以被经典条件下的机器学习方法所解决.新兴的应用场景下,人们往往面临数据模式发生变化、数据特征发生变化、学习任务目标发生变化等动态场景;数