关键词： 母猪   断配间隔   机器学习   方差分析   分类模型   回归模型  

摘要： 母猪断配间隔（Weaning-to-estrus interval,WEI）是决定母猪非生产天数（Non-production days,NPD）的关键因素,非生产天数直接影响母猪年生产力（Pig Sow Productivity,PSY）。我国是养猪大国但PSY相对较低,需要进行相关研究来提高PSY。现阶段养猪业生产数据分析主要通过方差分析和一般线性回归模型,但随着生产数据的不断积累,这些方法难以处理庞大的数据量。目前机器学习模型在各个领域的广泛运用,为养猪生产大数据分析带来了新的选择,将养猪和机器学习相结合是未来智慧养猪前进的方向,但目前相关研究还有待进一步开展。本研究收集我国南方某规模化畜牧公司2021年共14328条母猪繁殖相关数据,分为A（楼房猪场）和B（传统平养猪场）两个群体数据集。首先利用特征筛选算法挑选建模特征,制定母猪正常断配分类标准后采用机器学习算法构建分类模型并比较,采用机器学习算法和传统线性回归方法构建以WEI为对象的回归模型并比较,再利用决策树视图分析从特征筛选结果中找出WEI关键影响因素。最后利用方差分析研究母猪WEI的关键影响因素、次要影响因素。本研究的主要结果如下:1.筛选结果:使用机器学习特征筛选算法Boruta来筛选用于构建分析模型的特征。特征:品系、品种、妊娠108日背膘厚、胎次、妊娠期长、分娩窝重、总产仔数、窝断奶总日龄、带仔数、哺乳期长度、断奶背膘、分娩月份、断奶月份、配种月份、母猪生产线和背膘损失。B群体数据集来源于平养猪场,缺少母猪生产线数据,其余与A数据集相同。2.母猪WEI最佳二分类模型筛选结果。利用逻辑回归（LOG）、随机森林（RF）、决策树（DT）和支持向量机（SVM）四种算法在A和B两个数据集的基础上分别构建了WEI的二分类模型。结果为:模型的分类准确性都在0.63以上,具有良好的预测效果。其中RF模型的预测准确性最高为0.84～0.86（P<0.05）,作为最佳分类模型建模方法。3.母猪WEI最佳回归模型筛选结果。在A和B两个数据集的基础上,使用K近邻（KNN）、决策树（DT）、随机森林（RF）、支持向量机（SVM）和传统线性回归方法（LR）建立回归模型,再使用5折交叉验证法计算模型评价指标决定系数（R2）和均方根误差（RMSE）来比较模型拟合效果。LR的R2为0.09～0.10,显著低于其他机器学习算法建立的回归模型（P<0.05）。回归模型中DT建立的模型R2显著优于其他建模方法（P<0.05）。4.影响WEI的关键因素结果。利用决策视图分析数据,影响A群体母猪WEI的关键因素为分娩月份、断奶月份、配种月份和哺乳期长度,影响B群体母猪WEI的关键因素还有窝断奶总日龄。结合特征筛选结果,确定分娩月份、断奶月份、配种月份、哺乳期长度和窝断奶总日龄为WEI的关键影响因素。***影响因素的方差分析结果。关键因素分析:分娩月份、配种月份、断奶月份、窝断奶总日龄和哺乳期长度对WEI的影响显著（P<0.05）。次要因素分析:A群体数据集中,背膘损失、带仔数、断奶背膘厚、妊娠期长度、品种和胎次对WEI的影响显著（P<0.05）;B群体数据集中,带仔数、断奶背膘厚和胎次对WEI的影响显著（P<0.05）。***对下一胎总产仔数的影响。WEI对下一胎总产仔数影响显著（P<0.05）,WEI为4时,总产仔数最高。综上所述得出结论:预测母猪正常断配的最佳分类建模方法为RF,预测母猪WEI的最佳回归建模方法为DT。结合决策树视图分析结果,筛选出WEI的关键因素:分娩月份、断奶月份、配种月份、哺乳期长度和窝断奶总日龄。通过方差分析研究关键因素和次要因素对母猪WEI的影响。机器学习回归效果显著优于一般线性模型。机器学习将成为智能化养猪的分析数据和构建模型的主要手段,结合方差分析结果可以为生产提供指导。

关键词： 焊枪姿态   横焊   图像处理   机器学习   LSTM  

摘要： 焊接运用在工业生产的众多领域,自动化焊接已经成为焊接行业的发展趋势,目前的自动化焊接仍然只能进行流水线作业和简单焊接任务,其智能化水平较低,焊接机器人只能实现在特定环境下对熔池进行控制。工业生产正在向高精度、智能化、高效化发展,焊接机器人难以满足逐渐提高的工业要求,而且由于焊工的缺乏和焊接环境的恶劣,迫使焊接机器人从事生产的领域增多,但是其焊接质量达不到要求,无法替代人工进行焊接作业。焊接机器人智能化水平严重制约自动化焊接领域的发展。熔池的控制是保证焊接质量的关键所在,由于焊接过程中熔池的实时状态是不确定的,受众多因素影响难以建立数学模型分析流动过程。研究焊工在横焊过程中对熔池的控制,焊工通过观察实时熔池状态,获取熔池信息,依据焊接经验调整焊枪姿态实现对熔池的控制。为了充分探索和利用焊工基于经验的行为机制,即观察熔池并解析熔池信息实时调节焊接参数,本文采用机器学习的方法解析焊工实时横焊焊接过程并建立了人类焊工智能焊接的模型,分析焊工如何利用经验对横焊熔池进行控制,并从以下几个方面对焊工对横焊熔池控制的操作行为进行了研究。(1)寻找高级焊工进行横焊实验,搭建手动焊接过程图像采集平台,通过视觉传感器采集熔池图像并作为原始数据集,此过程是解析横焊焊工操作行为的基础。(2)为了研究横焊下焊工的操作行为,找出如何根据熔池的变化焊枪发生改变的,需要提取焊工操作的特征。为此搭建焊工横焊过程图像采集平台,对采集的熔池图像进行处理,提取熔池的特征和焊枪的特征。原始图像受到弧光干扰和噪声的影响较大,对图像进行预处理,采用中值滤波滤除椒盐噪声并提取感兴趣(ROI)区域,再进行图像增强突出熔池轮廓,使用边缘检测算子提取熔池边缘。焊枪受弧光干扰较严重,需要分别提取熔池的轮廓和焊枪的轮廓,最后得到了熔池的中心点和焊枪的中心点,即焊枪的位置和熔池的位置。(3)由于焊枪的位置改变是根据上一时刻熔池的位置而发生变化的,两者之间有着时序关系。运用机器学习的长短期记忆网络(LSTM)强大的序列学习能力,搭建一个基于长短期记忆网络的焊工智能焊接模型。该模型以横焊熔池图像提取的熔池位置信息为模型的输入,焊枪位置信息为模型的输出,通过焊工智能焊接模型研究焊工的焊枪位置随熔池位置的变化关系,解析焊工的操作行为并对焊枪的轨迹进行预测。由于搭建的LSTM模型是多输入对输出,网络较为复杂,设计了灰狼优化算法(GWO)对网络进行优化,提高模型的准确率。(4)对GWO进行了改进,搭建了一个IGWO-LSTM的焊工智能焊接模型,改进后的模型性能优于GWO-LSTM模型,同时比较了反向传播神经网络(BP)和门控循环神经网络(GRU)在测试集的误差,IGWO-LSTM模型在测试集的均方根误差(RMSE)是最低的,平均相对百分误差(MAPE)平均绝对误差(MAE)都是最低的,其拟合效果最佳。IGWO-LSTM模型能够解析焊工横焊过程焊枪位置随熔池位置的变化并预测焊枪轨迹,初步实现焊接智能化,并为智能化焊接奠定了基础。

关键词： 短期气候预测   机器学习   降水   气温  

摘要： 短期气候预测有着广泛的社会需求,但由于气候系统形成的复杂性和我国地形的独特性,对其准确预测极为复杂和困难。目前主要的预测方法包括动力模式和统计预测方法。但是动力模式对计算初值敏感,无法同化长期的历史资料;统计预测方法无法很好解决模型不稳定性、特征因子复杂性、预报因子-预报量关系非线性的问题,因此这两种方法实际预报技巧不高。机器学习本质上来说也属于统计方法,可以很好地解决模型非线性问题,但在短期气候预测中并未得到广泛应用。基于上述原因,为了处理预报因子-预报量关系的非线性问题,本研究提出了一个机器学习预测模型,并对中国月平均气温及降水进行预测;针对模型不稳定性、特征因子复杂性的问题,本研究提出一个动态建模的机器学习(TD-ML)方案,对中国季节尺度气温及降水进行预测。与传统统计预测方法及目前气候动力预测模式相比,本研究提出的预测模型,在具有挑战性的气候异常空间分布预测技巧方面表现出了较大的优势。具体研究内容如下:(1)针对预报因子-预报量关系的非线性的特点,利用中国160个国家站的逐月气候资料、国家气候中心130项气候因子数据集,采用皮尔森相关性分析确定预测因子并使用线性回归、岭回归、随机森林、梯度提升树算法升四种算法建立了一套中国月气温及降水的预测方案模型,并与国际主流的三种动力模式预测结果进行对比检验预测效果。结果表明,机器学习算法模型相对现有的动力模式预测能力略有提升。(2)针对季节尺度气温预测有着模型不稳定性、特征因子复杂性这两个统计学预测难点,分别提出动态建模、特征增强的解决方法,在此基础上形成一种新的动态建模的机器学习预测方案。结果表明,动态建模和特征增强对机器学习模型都分别有技巧提升作用,使得最终的TD-ML方案在与国际主流的业务模式同期预测相比时,本方案在趋势把握方面能够优于或不弱于它们,在异常空间分布技巧方面则有较大的优势。(3)针对季节降水预测效果不理想的问题,以夏季降水为例分析了不同起报月对我国季节降水预测精度的影响。实验表明,包含了前冬季节气象因子的起报月可以有效地提高模型对于夏季降水的预测精度。

关键词： 稀疏投资组合   K-means   分层聚类   机器学习  

摘要： 稀疏投资组合对比传统的投资组合具有低交易成本、低监管成本等诸多优势,而过去构造稀疏投资组合的方法都是基于最小方差投资组合并对权重向量进行范数约束,当股票数量较大时,需要对高维协方差矩阵进行估计,而高维协方差矩阵的估计难度大、误差大,虽然过去学者提出了多种高维协方差矩阵的估计方法,但其中大部分需要对协方差矩阵的结构进行稀疏性等假定,并依赖于股票收益率的正态性以及协方差矩阵在一定时间内的稳定性,且对于众多估计方法,没有统一的评价标准,无法确定最适的高维协方差矩阵估计方法。基于此,我们提出了一种构造稀疏投资组合的创新方法,通过分行业选股将高维问题转化为低维问题。具体做法是将现有股票集按产业进行划分,包括按照现实存在的产业分类标准划分,以及采用K-means和分层聚类机器学习方法将股票重新分为新的“产业”。在基于并证实同产业股票相关性高,不同产业股票相关性低的假设下,依照不同的标准,从每个产业中筛选出至多一支股票构成我们的投资组合。为了对股票进行正确分组,充分分散行业风险暴露,我们创新性地将分组数目内生化,并提出了检验分组效果的方法,即计算出分组后的组内时变相关系数与组间时变相关系数,作出密度图比较差异,差异越大,分组效果越好。另外,区别于传统的机器学习方法,我们用1减去时变相关系数来衡量两支股票间的距离。在实证部分,受制于高维协方差矩阵估计误差,我们首先选取沪深300成分股为样本,将我们提出的12种稀疏投资组合,与4种基准投资组合进行回测,比较样本外表现,最终我们的投资组合战胜了基准投资组合,可以获得20.14%的年化收益和1.044的夏普比率。我们进一步选取主板所有股票为样本进行回测,年化收益和夏普比率可以提升至23.05%和1.154,而按照过去方法构造的稀疏投资组合失灵。通过考虑交易成本的稳健性检验,我们的优势被进一步证实。

摘要： 摘要 目的 预防血肿周围水肿（PHE）扩大是改善颅内出血（ICH）病人神经系统结局的一种新策略。该研究旨在使用机器学习（ML）方法预测早期和延迟期PHE扩大。方法 纳

关键词： 司机严重事故风险等级   不平衡数据   机器学习   集成学习   深度学习  

摘要： 随着城市化成为全球发展的大趋势,车辆的持有量不断增加,随之而来的就是交通事故和伤亡人数的大量增加,这给社会和个人带来了极大的损失和困扰。同时城市化的进程和交通拥堵情况的加剧也促进了车联网技术的发展。且随着汽车行业的发展,车险业务也逐渐壮大起来,但企业在扩大车险业务范围的时候往往只注重完善盈利模式以及达成销售目标,从而忽视了对高风险司机的识别以及理赔成本的管控。故无论是从社会安全的角度来看还是从企业车险运营、车联网发展的角度来看,对司机进行风险识别都是重要研究方向。加之在大数据时代的背景下,获取海量用户数据变得越来越容易,机器学习算法也发展得相对成熟,对于客户风险识别的技术越来越先进。但目前针对于司机驾驶风险的识别与管控的相关研究还较少,且其中更多的是基于理论分析的角度进行研究,在使用数据对司机驾驶风险进行量化分类预测的角度上还有很大的研究空间。故本文主要基于事故司机的个人特征、车辆特征、道路特征以及行驶环境四大方面研究司机驾驶风险分类预测问题。首先根据参考文献以及经验选取可能对司机驾驶风险产生影响的特征,使用合理的方式对于缺失值、异常值进行处理,并对变量值进行编码和标准化。随后利用随机森林模型对选取的特征进行重要性的排序,选取重要性大于0.01的特征作为模型的输入变量。然后对数据的不平衡问题进行处理,分别采用SMOTE过采样、Near Miss欠采样以及SMOTETomek混合采样对数据进行平衡化处理,并将原始数据集以及三种平衡化处理后的数据集分别带入CART决策树、基分类器为CART决策树的Adaboost集成学习和ANN深度学习模型、将原始不平衡数据集带入适用于不平衡数据集的基于Adaboost集成学习的Easy Ensemble不平衡分类模型进行训练,并使用测试集对模型的效果进行评估。通过各类模型效果的比较,发现原始不平衡数据集直接带入模型的分类效果与随机分类类似,效果极差,而三种平衡化采用方法以及Easy Ensemble模型均一定程度上解决了不平衡数据无法进行有效分类预测的问题,模型的G＿means、F＿measure以及AUC值都得到了有效的提升,能够有效地识别出高风险司机。总得来说,SMOTETomek-Adaboost的预测分类效果最佳,该模型的AUC可以达到0.94,本文建议将该模型应用于高风险司机识别分类的问题上。

关键词： 机器学习   随机森林   震害数据   地震破坏预测   重要性分析  

摘要： 精确评估地震损失对于震前防灾减灾、震后灾区救援与快速重建有着至关重要的意义。现有的基于实际震害评估大多研究样本数据过少、仅限在某特定区域和某种结构类型,所采用的数据样本数量也有限。机器学习可以通过输入大数据样本作为训练,学习参数之间复杂的非线性关系。相比于传统的方法,机器学习方法具有更高的计算效率、更科学、更便于应用等特点。为此,本文基于2011年3月11日东日本大地震的37万8037条建筑物实际震害数据,使用随机森林算法设计了一个综合考虑地震动信息、建筑物属性信息和场地信息等多维度信息的方法,用于预测建筑物的地震损失程度。主要工作如下:(1)首先详细整理了 2011年3月11日东日本大地震378037条建筑物破坏数据,通过数据匹配、数据预处理等方法搭建震害资料数据库,并选用地面峰值加速度、谱加速度、层数、结构类型等12种影响因素作为模型输入,利用美国应用技术协会(ATC-13)发布的四种震害等级破坏状态(轻微破坏、中等破坏、严重破坏、倒塌),准确地预测了建筑物地震破坏所引起的损失,充分发挥机器学习高效性的计算特点。(2)详细介绍了随机森林、支持向量机、XGBoost和决策树四种经典的机器学习算法,比较四种方法预测精确率,得出随机森林方法所预测的分类性能更占优,并分析随机森林方法在震害预测研究的适用性。(3)基于随机森林方法进一步对模型的分类性能研究,利用数据平衡化处理和模型超参数优化两种方法对模型进行优化。结果显示:欠采样通过减少分类中多数类样本的数量来实现样本均衡导致模型丢失大量重要信息,采用过采样的SMOTE方法模型准确率更优;采用贝叶斯优化比学习率曲线的超参数优化方法所给出的模型性能更高。(4)为了提高模型的适用性和模型在震后决策性能表现,提出了预测目标优化方法,利用FEMA-356规范将预测目标划分为立即使用和生命安全两种应用性能,将原有四分类简化为二分类,结果显示模型准确率分别提高到73.0%和87.5%。(5)对预测目标优化后的模型进行预测性能验证,包括以下三个方面:①以日本福岛县地区为例,使用QGIS地理信息系统工具标注各受损建筑损失分布,验证模型的建筑空间分布泛化性能,结果显示模型预测与真实分布基本符合。②采用新西兰地区2014年1月20日所发生的Mw6.3级地震受损的1650栋建筑作为单次地震事件验证,结果显示在生命安全性能下,整体准确率达到79.9%,在立即使用性能下,整体准确率达到73.0%。③采用新西兰地区2003至2014年所发生地震受损的137648栋建筑作为多次地震事件验证,结果显示在生命安全性能下,整体准确率达到73.3%,在立即使用性能下,整体准确率达到70.3%。

关键词： 个股投资者情绪   金融异象   资产定价   随机森林回归模型  

摘要： 行为金融理论认为,投资者情绪作为人的一种不理性心理,其广泛存在于投资者的交易活动之中。因此,当大量投资者的交易行为同时受到投资者情绪的影响时,投资者很可能会对股票未来预期产生系统性的认知偏差,并最终对资产价格产生影响。目前,已经有许多学者从宏观层面研究了投资者情绪,比较了市场投资者情绪不同时,不同类型股票收益率的表现差异,证明了市场投资者情绪能够对股票收益产生影响。然而,由于个股投资者情绪测度较为困难,少有学者从微观层面入手,研究个股投资者情绪对股票市场的影响,造成了投资者情绪微观研究的空缺。因此,本文构建个股投资者情绪以及研究个股投资者情绪异象,对进一步理解投资者投资行为和提高市场定价效率具有重要的理论意义和现实意义。为了研究个股投资者情绪对股票市场的影响,本文首先使用了机器学习方法构建了基于市场投资者情绪的个股投资者情绪指标。具体来说,本文首先学习了Baker and Wurgler(2006)构建市场投资者情绪的方法,构建了中国A股市场的投资者情绪。然后,本文选取了换手率、相对强弱指数、乖乘率、人气指标、成交量比率、心理线指标、动态买卖气指标以及非主力资金净流入程度八个技术指标作为市场和个股投资者情绪的特征。接下来,本文使用随机森林回归算法和K近邻回归算法,将市场层面技术指标与市场投资者情绪作为训练集,把市场投资者情绪学习到个股层面,从而得到了基于市场投资者情绪的个股投资者情绪指标。随后,本文使用了投资组合方法和Fama-Macbeth回归方法对个股投资者情绪异象的存在性以及个股投资者情绪异象的横截面异质性进行了检验。最后,本文学习了Gu et al(2018)的套利限制指数构建方法,对套利限制与个股投资者情绪异象之间的关系进行了研究。根据上述研究,本文得出了以下结论:第一,本文构建的个股投资者情绪在时序上与市场情绪保持较强的相关性,同时,在横截面上,个股投资者情绪与股票收益、股票估值难度具有明显的相关性,证明了本文构建的个股投资者情绪是合理、有效的。第二,中国A股市场存在显著的个股投资者情绪异象,在不同的因子模型下,根据个股投资者情绪构建的多空组合超额收益都在统计意义上显著,且通过多空策略组合可实现年化8.532%的收益。第三,本文发现个股投资者情绪异象在横截面维度存在显著差异。市值规模越小,机构持股比例越低,盈利能力越弱,波动率越大的股票,其个股投资者情绪异象越强。第四,本文发现套利限制可以强化个股投资者情绪异象,说明了套利限制是个股投资者情绪异象产生的重要原因。