关键词： 集成学习   数据预处理   数据驱动预测模型   智能优化算法  

摘要： 建筑短期负荷预测在用电高峰管理和发电调度中起着至关重要的作用。研究表明,集成学习策略在实践中比单个预测模型泛化能力更强、精度更高。然而,目前数据预处理大都仍是传统方法,即将数据作为一个整体进行训练和测试,忽略了数据的内部规律和模式差异,这是阻碍预测效果进一步提高的重要因素。本文运用无监督/有监督数据分类方法,结合集成学习策略,围绕建筑电力需求建模与预测方法展开研究。主要内容包括:(1)数据预处理方法研究。在异常值处理、特征提取等内容基础上,引入无监督K-means聚类和有监督KNN(K-nearest neighbors)分类方法,将多维输入数据按几何属性(欧氏距离)进行数据聚类和归类。具体地,训练数据(已知)由K-means法进行无监督聚类,测试数据(未知)由KNN法在K-means聚类基础上进行归类。整体数据预处理步骤为:运用肖维勒准则进行异常值处理,然后基于K-means和KNN方法进行数据分类,再利用RFE递归特征消除法进行特征选择,最后所得数据用于数据驱动的预测建模。(2)分类集成学习策略研究。针对内容(1)的各类数据分别运用集成学习策略,选出最优预测模型。通过将最优模型进行融合,实现建筑电力需求的总体预测。本文采用的基本预测模型包括BP神经网络、极限学习机(ELM)、随机森林(RF)、支持向量机(SVM)、多元线性回归(MLR)、贝叶斯线性回归(BLR)、相关向量机(RVM)等经典模型以及它们与智能优化算法(Ada Boost、PSO、TLBO)的改进型,共计11个子学习器参与集成框架的搭建。(3)采用两组实际建筑的短期用电负荷数据进行模型验证。结果表明,基于数据分类的集成学习策略在预测精度上优于11个独立模型和其它集成方法。与独立模型对比,本文所提的集成模型的评价指标MAPE比单个最优模型低0.13%;与其它集成模型对比,本文所提的集成模型的评价指标MAPE从1.42%降至0.93%。此方法的高精度和泛化能力使得它具备应用于不同预测场景的潜力。

关键词： 机器学习   多变量生物医学数据   核矩阵   黎曼流形   长短期记忆网络  

摘要： 随着自然科学的发展和全球信息化的推进,生物医学领域进入了大数据时代。尤其是机器学习方法出现之后,其强大的特征提取能力极大地推动了生物医学数据的研究进程。根据研究变量个数的不同,生物医学数据可分为单变量生物医学数据和多变量生物医学数据。在各类多变量生物医学数据中,脑机接口(Brain-Computer Interface,BCI)技术的研究有助于视听觉受损和肢体运动能力受限的残疾人恢复正常,功能磁共振成像(functional Magnetic Resonance Imaging,f MRI)的研究有助于脑部疾病的诊断和预防。因此,这两类数据的分析和处理在近年来得到了研究人员越来越多的关注。本文基于机器学习理论,对BCI中的稳态视觉诱发电位(Steady-state Visually Evoked Potentials,SSVEP)数据和f MRI中的自闭症脑成像(Autism Brain Imaging Data Exchange,ABIDE)数据的分类提出了新方法,有效提升了分类性能。本文的主要工作包括如下两个方面:(1)针对SSVEP数据提出了基于核矩阵的分类算法。目前已有的分类方法通常是利用协方差矩阵对SSVEP数据进行特征提取,再利用经典的机器学习方法进行分类。由Mercer定理可知,传统的协方差矩阵只是核矩阵的一种特殊形式。此外,与传统的欧氏空间相比,黎曼空间更能反映内蕴距离,但是大多数经典的分类算法都是基于欧氏空间的。因此,本文提出了一种在黎曼切空间中的核矩阵分类方法。首先,利用高斯核矩阵代替传统的协方差矩阵对SSVEP数据进行特征提取;然后,将特征提取的结果映射到黎曼流形的切空间中;最后,使用经典的机器学习分类器实现分类。实验结果表明,基于黎曼切空间的核矩阵分类算法能够有效地提高分类准确率。(2)针对ABIDE数据提出了基于长短期记忆网络(Long Short-term Memory,LSTM)的分类模型。目前对于ABIDE数据的分类主要是通过不同的功能连接方法进行特征提取,然后再构建支持向量机(Support Vector Machines,SVM)等模型对其进行分类。但f MRI数据本质上是多变量时间序列,传统机器学习模型可能无法充分挖掘到其隐含的时序特征,而LSTM网络可以很好地从时序数据中捕获和学习数据特性且考虑了时间的依赖问题。因此,本文提出了基于LSTM网络的ABIDE数据分类模型。首先,使用Smith2009 70 RSNs图集对ABIDE数据进行掩码操作;然后,构建包含三层LSTM的网络模型;最后,验证其在分类任务中的可行性。实验结果表明,该模型的分类平均准确率得到了改善,但其敏感性和特异性还有待提高。

关键词： 股票多分类   支持向量机   神经网络   LSTM  

摘要： 随着社会经济的发展,金融市场愈发规范,金融市场的体量也愈发壮大,社会上的各类基金、债券、股票、期货等也大幅度的融入到了我们的生活中。而利用现有的统计学方法或相关理论技术对投资活动做出相关策略建议是十分具有发展前景的。本文将目标锁定在当前社会比较热门的白酒类股票的涨跌幅预测上,为了进一步提高实际操作的可操作性和预测的准确性,本文的预测目标确定为白酒类股票的k日涨跌幅三分类预测。对应的股票标的有泸州老窖、贵州茅台、五粮液、金种子酒、顺鑫农业、舍得酒业等15只股票标的。对应的预测时间窗口k值,本文将分别取5日、10日、15日、20日、25日等来对比预测效果。对于三分类的标签划分阈值,本文采取动态阈值,即取当前日期样本的前250个样本的下0.4分位数作为标签划分阈值(样本数不足250个时,取当前样本之前的所有样本即可)。本文的数据来源于wind数据库,一共15只股票,每只股票的数据时间记录为2010年1月1日至2021年12月1日,共计43410条记录。数据包含常见行情指标(开盘价,收盘价、最高价、最低价、换手率等)和技术指标(MA,MACD,KDJ等)。考虑到不同维度特征在数量级上存在较大差异,本文对数据做了归一化处理,同时也做了特征筛选与特征扩充,增添了一系列0-1分布的特征。针对多分类问题,本文模型评价指标主要考虑Accuracy、F-1score(macro)、AUC等。对于部分数据集类别不平衡的情况,本文采取了在训练模型时增大对类别少的样本判别错误的惩罚力度来改善这一情况。在实证分析部分中,本文提出了具有3层LSTM层和一层softmax层的LSTM神经网络结构模型与其他分类模型,并分别从不同角度(不同股票数据,不同时间窗口、不同模型、是否特征扩充)对模型的预测效果进行了对比。最后的结果表明,本文的LSTM模型在所有模型中表现最佳,对股票数据具有非常好的分类效果。

关键词： 信用评分   可解释性   SHAP   XGBoost  

摘要： 信用评分作为一种衡量客户信用风险的方式,一直是银行以及各大消费金融公司的业务之一。一般来说,信用评分卡通常依赖于一些简单的统计模型,如Logistic回归模型等,这些模型提供了良好的性能,易于理解,并且不会造成复杂的计算问题。另一方面,一些学者发现复杂的机器学习模型往往能识别出更为复杂的风险模式,从而提供更好的预测性能。尽管如此,由于大多数复杂机器学习模型为“黑箱”模型,模型本身可能存在不可控的风险,无法满足监管要求,因此也难以将其应用到信用评分领域的实践中。随着一些可解释机器学习方法的提出,通过这些方法可以对机器学习模型的预测结果进行解释,从而弥补复杂机器学习模型不可解释的缺陷。 SHAP方法是一种常见的可解释机器学习方法,它通过计算每个样本中各变量的取值对模型预测结果的贡献,来对模型进行解释。本文参照业界常用的基于Logistic模型的信用评分卡构建流程,设计了一种基于SHAP的信用评分卡。该评分卡使用XGBoost模型进行统计建模,并使用SHAP方法对模型的预测结果进行解释,再根据函数映射关系得到最终的信用分数。通过数值模拟实验发现,基于SHAP特征重要性的变量筛选方法,相比基于Ⅳ值以及基于XGBoost特征重要性的变量筛选方法,更能准确筛选出重要的变量;此外,相比基于Logistic模型的信用评分卡,基于SHAP的信用评分卡在多种不同的变量关系情况下,不仅具有更好的分类效果,还能更清楚地刻画变量间所蕴含的关系。最后,基于两个真实的贷款数据集进行实证研究发现,相比基于Logistic模型的信用评分卡,本文所设计的基于SHAP的信用评分卡不仅能更好地区分违约客户与正常客户,也保证了评分模型的可解释性。

关键词： 热电材料   机器学习   特征选择   特征组合   随机森林  

摘要： 热电材料是一种能够实现热能和电能直接相互转换的新型能源材料,具有安全、节能、环保等优点,有利于工业的发展并且对环境无污染,因此受到人们的广泛关注。然而传统的实验方法和计算方法对新型热电材料的预测成本高,耗时长。本文用机器学习方法筛选出了对热电性能贡献最大的4个关键特征,进一步通过模型分解和特征组合分析发现了关键特征与热电性能之间的联系。除此之外,我们提供了一种基于特征选择的机器学习方法,对超过13万种材料的热电性能进行高效、准确的预测。主要研究内容包括如下:1.采用机器学习方法筛选出对热电性能影响较大的特征。数据来源于UCSB开发的MRL(Materials Research Laboratory)数据库中。使用Magpie程序包根据材料的化学式计算出145个初始特征并提取出来。基于Extra Trees模型的信息熵评价对初始特征进行重要性排序,去除相关和冗余特征,筛选得到对热电性能贡献最大的4个关键特征。我们还进一步探究了筛选出的关键特征与热电性能之间的关系。首先我们探究了热电材料和非热电材料在每个特征中的分布规律,发现热电材料和非热电材料在每个特征中的分布规律不明显,存在较多重叠。其次我们探究了每个特征与热电性能的关系,通过分析发现每个特征与ZT值、电导率、导热系数、Seebeck系数均没有明显的规律及线性关系。最后我们尝试将特征进行组合,探究特征的组合效应与热电性能之间的关系。通过分析发现特征的组合效应是通过影响电导率或热导率间接影响热电性能的。该研究内容不仅为热电材料的进一步研究提供了重要的信息,也为热电材料的开发提供了一定的研究思路。2.基于特征选择的机器学习最优模型预测热电材料。通过对比随机森林(Random Forest),自适应增强(Ada Boost),支持向量机(SVM),梯度提升决策树(Gradient Boost)和K-最近邻(KNN)五种模型的准确率、确定系数以及在测试集的预测评估情况,发现Random Forest模型是五种模型中综合效果最好的模型。基于筛选出的对热电性能贡献最大的4个特性,我们选用Random Forest模型对热电材料进行预测和分析,将超过13万种材料的搜索空间减小到6476种材料的候选系统,其中概率高达95%以上的热电候选材料有138种。在预测出的138种热电材料中,含Ag材料占据较多,超过40种。因此我们进一步探究了Ag与热电性能之间的关系,发现了含Ag材料的空间结构、含Ag量及晶胞体积对热电性能的影响规律。本文所采用的方法不仅限于寻找新的热电材料,还可以应用于寻找其他功能材料。

关键词： 制造业专利   单项专利价值评估   机器学习  

摘要： 专利作为衡量创新的指标,本应该为企业带来技术创新的超额收益,但是在我国,专利的产业化率、许可率、转让率、专利质押融资金额普遍不高。在专利密集型产业的7个大类中,制造业的国民行业小类最多,增加值占比最高,增加值增速最慢,制造业“大而不强”一直是困扰中国制造业发展的难题。一方面,高端制造业被卡脖子,如半导体产业的光刻机、轮机的热部件、通信装备产业的高端芯片、电力装备产业的燃气以及汽车、飞机等产业的设计和仿真软件等都依赖进口;另一方面,低端制造业正在被其他发展中国家取代,如工厂由中国向越南转移。在此背景下,预测制造业的专利价值是很有必要的。本文通过梳理文献,将专利价值影响因素概括为技术因素、法律因素、经济因素三方面,将专利价值评估方法分为绝对价值评估与相对价值评估两类,因为本文的评估对象是单项专利价值,所以本文选择用机器学习来预测专利的相对价值。首先,本文从专利交易网站的智能制造领域版块中收集了385条专利数据,对数据描述性统计分析后,本文使用交叉验证法选择机器学习中的分类模型,通过比较不同模型的交叉验证值,最终选择了决策树模型和随机森林模型,来预测单项专利的相对价值。模型建立后,本文使用PSI(population stability index)指标评价模型的稳定性,使用IV(Information Value)指标和模型自身分别计算自变量的预测能力,得出结果如下:专利的维持时间率、交易方式对专利相对价值的预测能力较强。基于结果,本文得到的研究结论有两点:(1)专利维持时间率是预测专利价值的重要因素,政府应改革专利维持年费制度来保护创新。(2)交易方式是预测专利价值的重要因素,政府应鼓励企业选择多元化的专利盈利模式,并灵活地进行组合。

关键词： Co基高温合金   Nb-Si基高温合金   动力学数据库   机器学习方法   相场法  

摘要： Ni基高温合金具有优异的组织稳定性、抗氧化性、抗热腐蚀性以及高温力学性能,使其在航空航天、船舶工业等领域应用广泛,但其性能已接近理论极限。为了满足高温合金在应用中不断提升的性能需求,新型Co基与Nb-Si基高温合金的研究已逐步成为该领域的热点。与Ni基高温合金相比,新型Co基与Nb-Si基高温合金在组织稳定性、力学性能以及抗氧化性能上依旧存在不足。基于材料计算方法的合金设计是实现新型Co基与Nb-Si基高温合金性能改进的重要手段,而反映原子扩散行为的扩散动力学数据库则是实现合金设计,研究合金相变机理及微观组织演化规律的重要数据基础。由于基础动力学数据的缺失,现有动力学数据库难以满足合金设计对精度的要求。综上,为了提高动力学数据库的精度,保证合金设计的有效性和可靠性,新型Co基与Nb-Si基高温合金扩散动力学数据库的建立与完善必不可少。 本研究的主要工作为新型Co基和Nb-Si基高温合金扩散动力学数据库的建立与应用,主要的内容及结论如下: (1)基于扩散理论及相关经验模型,结合文献报道的扩散数据及基本物理特性(包含原子特性、晶胞参数、熔点、弹性常数等)构建了自扩散及杂质扩散激活能的机器学习数据集。采用线性回归模型、基于树的模型等机器学习算法进行建模,通过数据预处理、变量及算法的优化后,筛选得到结构简单且预测性能优异的自扩散及杂质扩散激活能的机器学习预测模型,并分析了模型中不同物理特性对扩散激活能的影响程度。基于该预测模型计算的扩散系数与实验数据之间具有良好的一致性,预测模型的平均绝对值误差小于15 kJ/mol。同时,基于机器学习预测模型计算了元素在稳定与亚稳定固溶体相(BCC、FCC和HCP)中222组自扩散数据和16206组杂质扩散数据,而整个流程(包含数据集的创建、模型的构建及优化、计算结果的输出等步骤)耗时仅需要60天,远低于采用实验方法(约49000天)与第一性原理方法(约680天)所消耗时长。上述结果反映出机器学习方法在计算自扩散与杂质扩散系数时具有高精度、高效率的优势。 (2)基于采用经验模型与机器学习预测模型计算的自扩散与杂质扩散系数,结合文献报道的相关扩散数据,采用DICTRA软件对Co、Ni、Al、Cr、Ti等元素在液相与FCC相中的自扩散与杂质扩散迁移率参数进行了优化。采用分子动力学方法研究了 Co-Ti、Co-Ti-Al、Co-Ti-Cr、Co-Ti-Ni和 Ti-Al-Ni体系在 FCC 相与 L12相中原子的扩散行为,计算了随成分、温度变化的示踪扩散系数。基于上述计算结果,结合文献报道的扩散数据,优化了 Co-Ni-Al-Cr-Ti体系中各二元系、三元系的扩散相互作用参数。综合上述优化结果以及文献报道的动力学参数,建立了Co-Ni-Al-Cr-Ti体系液相、FCC相和L12相的多元扩散动力学数据库。通过对比文献中实验测定的扩散偶的距离-浓度曲线,验证了新型Co基高温合金动力学数据库的可靠性。 (3)基于采用经验模型与机器学习预测模型计算的自扩散与杂质扩散系数,结合文献报道的相关扩散数据,采用DICTRA软件对Nb、Si、Ti、Hf、V等元素在液相与BCC相中的自扩散与杂质扩散迁移率参数进行了优化。采用分子动力学方法和基于扩散偶的实验方法研究了 Nb-Si、Si-V、Hf-V、Nb-Si-Hf、Nb-Si-Ti、Nb-Si-V、Nb-Hf-Ti、Nb-Hf-V、Si-Hf-Ti、Si-Ti-V、Hf-Ti-V 和 Ti-Nb-V 体系在BCC相中原子的扩散行为,计算了随成分、温度变化的示踪扩散系数或互扩散系数。基于上述计算结果,结合文献报道的扩散数据,优化了 Nb-Si-Hf-Ti-V体系中各二元系、三元系的扩散相互作用参数。综合上述优化结果以及文献报道的动力学参数,建立了 Nb-Si-Hf-Ti-V体系液相和BCC相的多元扩散动力学数据库。通过对比文献中实验测定的扩散偶的距离-浓度曲线,验证了 Nb-Si基高温合金动力学数据库的可靠性。 (4)探索了动力学数据库在辅助开发新型Co基与Nb-Si基高温合金中的应用。基于本研究构建的新型Co基与Nb-Si基高温合金动力学数据库,结合相关热力学与物理性能参数,采用Scheil模型、热裂倾向预测模型等物理模型,研究了合金成分、冷却速率对 Co-Ti-X(X:Al,Cr,Ni)与 Nb-Si-X(X:Hf,Ti,V)合金在凝固过程中的裂纹形成倾向的影响。此外,采用多相场模型,对Co-Ti-Ni合金时效过程以及Nb-Si-Hf合金凝固过程中微观组织演化过程进行了数值模拟,研究了合金成分、工艺条件(如冷却速率、时效温度、时效时间等)对微观组织演化过程的影响。基于上述计算结果,为新型Co基及Nb-Si基高温合金的成分设计及工艺优化提供了理论指导,同时体现了扩

关键词： 个人消费信用贷款   个人征信   违约风险   机器学习   可解释性   CatBoost  

摘要： 随着互联网金融业务的高速发展,资金需求方可以在线上申请个人消费信用贷款,目前国内个人消费市场发展繁荣,参与者众多,在这种模式下,融资效率大大提高,显著推动国内消费市场的发展,促进经济的良好运行。虽然个人消费信用贷款为机构带来了一定的发展机遇,但是个人消费信用贷款的发展还存在一定的挑战。纵观个人消费信用贷款的发展,信用评估一直是放贷环节的重点,但是随着社会的发展,传统个人信用评估体系的僵化,已经不能满足当前信息爆炸的社会环境,而互联网企业对相关信用评估的优先布局,为征信行业带来充满活力的进步。与此同时,对于个人信用贷款违约的相关评估,也带来新的发展方向。随着人工智能的发展,越来越多的复杂任务可以通过机器学习的方式得出准确的预测。将信用评估和机器学习结合起来,可以把更全面的特征纳入到信用评估的过程,提高判断准确性。本文参考了国内外相关领域的文献,对个人消费信用贷款的发展、违约因素和违约判断模型进行梳理,接下来对个人消费信用贷款违约因素进行了详细列举,最后就是将可解释机器模型运用于实证研究当中,并对行业的相关方提供建议。实证研究所采用的数据是通过Python获取了A借贷平台三年中的个人消费信用借款的全息数据,通过对数据的分析,提出机器学习的可解释性在个人信用评估上的运用。将可解释性加入到机器学习模型,降低了对于大量数据的处理难度和非专业人员对模型理解的门槛,通过机器学习技术的卓越性能,在保证准确性的同时,尽可能多的展示出模型预测的可解释性,避免了传统黑盒模型的信任问题。

关键词： 数据中心   能耗模型   机器学习   集成学习  

摘要： 随着全球数据中心的大量部署和云计算服务需求增加,数据中心的高能耗问题日益严重,其不仅会导致数据中心的资源管理困难,而且还会对环境造成一系列影响。目前,能耗感知是一种有效的能耗管理控制技术,能耗模型作为感知技术的基础而受到广泛关注,其主要思想是通过采集影响数据中心服务器能耗的参数,建立这些参数与数据中心服务器能耗的关系以实现能耗估量。本文在大量调研相关文献的基础上,对数据中心能耗模型进行了深入研究,总结归纳如下: (1)提出了一种基于机器学习方法的服务器能耗模型。针对主流能耗模型未考虑数据中心服务器任务负载类型,导致能耗模型精度低等问题,本文提出的模型分别考虑了四种常用的服务器负载类型:CPU密集型负载、I/O密集型负载、Web密集型负载和混合负载,在真实服务器上进行实验收集能耗数据,对于每一种不同负载特征数据,采用“随机森林算法”进行能耗特征参数选择,然后使用“网格搜索法”优化支持向量机模型的超参数,对不同负载任务分别建立能耗模型。此外,本文还引入了误差置信区间描述服务器能耗的不确定性,最后通过实验得出了不同模型的精度,结果表明,与基准的能耗模型相比,本文提出能耗模型的估量精度平均提升了2.9%。 (2)针对单一机器学习模型易产生估量精度呈现边际效用下降等问题,本文提出了一种基于集成学习的能耗模型。本文在真实的云环境上进行了数据采集,对多种机器学习算法按照“训练集”和“测试集”上性能表现划分为“强回归模型”和“弱回归模型”,然后结合不同回归模型提出了4种不同的Stacking集成策略,经过实验得出了单种机器学习模型和不同集成模型的性能差异。此外,本文还讨论了不同集成策略相对于各种机器学习算法的性能提升幅度。实验结果表明,采用集成学习策略的能耗模型精度大多数场景都优于单一的机器学习模型,并且采用Stack＿2集成策略的能耗模型性能提升最大,在测试集上达到了35%。

关键词： 认知诊断   机器学习   分类准确性  

摘要： 认知诊断理论（cognitive diagnostic theory），在对个体能力水平进行评估的同时，还能了解学生对各个知识点的掌握情况。而传统的认知诊断模型进行参数估计的准确性往往依赖较大的样本量，这不符合现实中课堂教学模式下形成的小样本环境。因此，有研究者提出了机器学习方法进行认知诊断能够在小样本中提取关键信息，且对于各种不同的数据具有很好的稳健性，从而实现比较准确的分类。　　但是以往研究中缺少对于不同机器学习方法之间判准性的比较，且有一些机器学习方法并未涉及，例如朴素贝叶斯、决策树、回归树、随机森林等。其中决策树模型在较少数据的情况下比其他复杂的模型对于简单分类问题更具优势，且对于结果的解释不需要数学背景;随机森林算法对噪声具有很好的抵抗能力，能够适应多种数据类型;朴素贝叶斯分类模型简单且有效，在训练样本数量较少的同时，依旧能够较为准确的实现预测。因此本研究采用包括以往研究中出现的三种机器学习方法（K-邻近，神经网络，支持向量机），同时加入四种新的机器学方法（朴素贝叶斯、决策树、随机森林、回归树）共七种机器学习方法对小样本下认知诊断数据进行拟合，比较不同机器学习方法与传统模型对结果的预测情况。　　本文共三个研究，研究一和研究二是模拟研究，研究三是实证研究。研究一的目的是将K邻近、神经网络、支持向量机、朴素贝叶斯、决策树、回归树、随机森林共七种机器学习方法在模拟研究中对认知诊断被试的属性掌握模式进行判准率检验，探究不同机器学习方法对被试的属性掌握模式进行判准的可行性。研究二旨在将研究一中筛选出的机器学习模型在小样本下与传统的DINA模型进行比较，探究不同机器学习方法在小样本下的分类准确性。研究三则通过设计实验，将被试进行分组学习作答来体现现实认知诊断评估的真实过程，以验证多种机器学习方法在真实数据中进行认知诊断的预测能力。研究结果表明：　　（1）机器学习方法的分类准确性受到属性数量（即分类数量）的影响较大，除了回归树模型在分类数据中的表现较差，其他的模型均表现较好。　　（2）在小样本模拟数据中，决策树模型和随机森林算法分类准确性表现较好。其中随机森林算法在样本量为100时与DINA模型的判准率持平，样本量为150、200时均超过了DINA模型。　　（3）在实证研究中，机器学习方法的判准率结果均优于DINA模型，这有可能是因为机器学习方法的鲁棒性以及模拟研究过程中数据生成依靠的就是DINA模型。　　（4）在实际小样本认知诊断测量中建议使用决策树和随机森林算法，但是要求总的属性数量较少或者存在属性层级关系。