关键词： 复杂不均衡数据   过采样技术   分类   机械系统关键零部件   状态监测与状态预测  

摘要： 轴承、刀具等作为机械系统的关键零部件,长期处于高负荷、高强度的状态下运行,很容易发生各类故障或不可逆的磨损,常会导致灾难性事故或造成巨大经济损失,因此,对轴承、刀具等关键零部件进行预测性维护是企业运维的焦点,也是学界研究的热点。目前,数据驱动的机械系统关键零部件预测性维护研究大多是基于均衡数的,然而,机械系统预测性维护监测、预测模型的建立是典型的不均衡数据分类、回归过程。且工业监测数据中的噪声、类内类间不均衡、多类不均衡以及时间序列数据不均衡等复杂不均衡问题给机械系统关键零部件的分类、回归建模带来了巨大的挑战,这是因为标准分类器在不均衡数据面前是容易失效的。为此,本文以过采样算法为基础,分别针对有限样本下的噪声问题、类内类间不均衡问题、多类不均衡问题以及时间序列数据不均衡问题,提出新的处理算法,并集成关键零部件状态监测、状态预测框架,且开发预测性维护原型系统。本文的主要研究内容如下:1)针对数据有限且含噪不均衡问题,提出一种免疫噪声的多数类加权少数类过采样技术(noise-immunity majority weighted minority oversampling technique,NI-MW-MOTE)。该算法首先综合考虑欧氏距离、近邻域密度为基于k-NN法的“疑似”噪声为真噪声的概率进行排序;然后,通过迭代以及错分误差自适应地选取最佳噪声处理策略;最后,将AHC(aggregative hierarchical clustering)聚类算法与改进MWMOTE过采样技术相结合来处理不均衡数据。为了验证NI-MWMOTE的有效性与优越性,将其与LS-SVM(least squares support vector machine)分类器相结合来实现数据有限且含噪不均衡场景下的轴承、刀具的状态监测。公开数据集以及自采数据的实验结果表明:NI-MWMOTE在2类关键零部件状态监测中的准确率分别平均高达95.61%与95.96%,比采样前分别提升9.47%与25.19%,均衡效果显著强于SMOTE、MWMOTE等算法。2)针对数据有限且类内类间不均衡同在问题,提出一种改进的自适应半监督加权过采样技术(improving adaptive semi-unsupervised weighted oversampling,IA-SUWO)。该算法首先使用半监督分层聚类方法以迭代方式对少数类实例进行集群分割;然后,通过分类复杂度和交叉验证来自适应确定每个少数类子集群的采样大小;最后,综合考虑平均欧式距离以及最小二乘支持数值谱来为难以学习的少数类边界样本赋予权重,并基于这些权重,使用基于k*INN(k*information nearest neighbors)的方法来合成更广泛有用的新实例。为了验证IA-SUWO的有效性与优越性,将其与LS-SVM分类器相结合来实现数据有限且类内类间同在不均衡场景下的轴承、刀具的状态监测。公开数据集以及自采数据的实验结果表明:IA-SUWO在2类关键零部件状态监测中的准确率分别平均高达95.62%与94.80%,比采样前分别提升15.37%与9.47%,均衡效果显著强于SMOTE、MWMOTE、A-SUWO等算法。3)针对数据有限且多类不均衡问题,提出一种基于样本特性的过采样技术(sample-characteristic oversampling technique,SCOTE),其利用“One-vs-All”策略将多类不均衡问题转换为二类不均衡问题。首先,在每个子问题中,该算法使用k-NN法滤出噪声;紧接着,依据最小二乘支持数值普对少数类样本进行重要性排序;然后,基于该重要性排序,采用基于k*INN的新方法合成更广泛有用的样本以均衡数据集;最后,当所有的二类子问题都得到解决时便成功地解决了多类不均衡问题。为了验证SCOTE算法的有效性与优越性,将其与Multi-class LS-SVM分类器相结合来实现数据有限且多类不均衡场景下的轴承、刀具的状态监测。公开数据集以及自采数据的实验结果表明:SCOTE在2类关键零部件状态监测中的采样均衡效果显著强于SMOTE、MWMOTE、A-SUWO等采样算法以及SAMME、Fuzzy Imb ECOC、Im ECOC等适用于多类不均衡分类监测的集成算法。4)针对图片数据有限且多类不均衡问题以及数据有限且时间序列不均衡问题,提出一种可变合成样本数的SCOTE过采样技术(improved sample-characteristic over-sampling technique,ISCOTE),即,通过引入缩放因子(S)来调节每个类别中需要合成的样本数,以使分类、回归模型得到最大信息量的同时,不会发生过拟合现象。为了验证ISCOTE算法的有效性与优越性,分别将其嵌

关键词： 天线阵优化   机器学习   深度神经网络   道尔夫-切比雪夫综合   天线阵分析与综合  

摘要： 天线作为无线通信系统的组成部分,一直承担着收发电磁波的重要责任。现如今,随着通信需求的不断提高,天线阵的出现和设计也越来越精细复杂。对于庞大且复杂的天线阵结构,优化设计研究所耗费的计算资源如计算时间、内存消耗等也随之增大。本文旨在利用机器学习能够拟合复杂非线性函数的同时计算耗时还低的优势,将天线阵优化设计与机器学习相结合,降低传统天线优化设计的成本。本文的主要研究工作为将机器学习方法应用于天线阵优化设计,主要分成两个方面:第一个的主要内容是天线阵分析与机器学习相结合的算法,本文通过设计深度神经网络(Deep Neural Network,DNN)结构实现天线阵分析,完成训练的DNN模型可以实时预测天线阵的辐射场分布,预测结果与理论结果吻合良好。本文所采用的方法与传统算法相比,计算速度具有明显的提升。第二个的主要内容是道尔夫-切比雪夫综合与机器学习相结合的算法,本文通过设计DNN结构实现道尔夫-切比雪夫综合法,完成训练的DNN模型可以根据天线设计指标实时预测出满足要求的电流分布,由此得到的方向图结果与理论结果吻合良好。本文最后还对训练神经网络过程中超参数的初始化问题进行了研究,给出了本文所设计DNN模型其超参数初始化的优化思路与方案。本文的具体工作如下:首先,本文介绍了天线阵分析与综合的基本理论,介绍了机器学习的发展现状及其优势特点,详细说明了目前国内外有关天线阵优化与机器学习相结合的研究情况,为本文的研究工作提供了理论基础。接着,针对天线阵分析,本文分别设计了与直线阵分析、平面阵分析相结合的DNN结构,分析了训练过程、训练结果以及适用性。仿真表明:完成训练的DNN模型可以实现天线阵分析,预测结果的准确率在90%以上,相对传统算法,本文算法所需的计算时间明显降低,这有效的论证了本文所设计DNN结构与天线阵分析相结合的可行性。然后,针对道尔夫-切比雪夫综合,本文分别设计了与切比雪夫直线阵综合、切比雪夫平面阵综合相结合的DNN结构,分析了训练过程、训练结果以及适用性,得到了性能良好的DNN设计方案。仿真表明:完成训练的DNN模型可以实现道尔夫-切比雪夫综合法,预测结果的准确率在90%以上,有效的论证了本文所设计DNN与道尔夫-切比雪夫综合相结合的可行性。学习率、隐藏层神经元数、隐藏层层数和迭代次数是DNN训练过程中四个主要的超参数,它们的初始化对DNN的性能有着至关重要的影响。为了进一步提高本文所设计的DNN结构性能,本文接着通过训练一个较为复杂的切比雪夫直线阵综合模型,给出了四个超参数初始化的优化思路与方案,并对它们进行仿真计算,获得了良好的训练效果,有效的提高了原有DNN结构的性能。最后,本文总结上述研究内容,说明了天线阵优化设计与机器学习相结合的可行性,为天线阵优化设计提供了参考。

关键词： 隐私保护   机器学习   生成对抗网络   变分自编码器   联邦学习算法  

摘要： 随着人工智能，机器学习，深度学习在人们生活中的广泛应用，人们生活的各个方面几乎无时不刻不在从机器学习中获利。机器学习正在改变着人们的生活方式。然而随着机器学习在越来越多的领域内深入，在海量的数据上进行学习，用户的隐私信息也被收集，利用和分析，用户的隐私安全受到严重威胁。因此研究隐私保护机器算法非常重要。然而在已有的隐私保护机器学习算法中，利用全同态加密，安全多方计算，可信硬件等实现的算法很多都存在复杂低效的问题，以牺牲效率和精确性来实现隐私保护。针对目前已有研究中的问题和缺陷，本文在机器学习的三个方面设计隐私保护机器学习算法。　　(1)首先，以生成对抗网络的区分器损失函数为目标，应用差分隐私，实现差分隐私生成对抗网络，避免生成对抗网络模型将数据中的隐私特征编码到模型参数中，或者反映到生成的数据上。本算法不需要修改Tensorflow核心函数，不会明显拖慢生成对抗网络的训练时间，较在参数更新梯度上应用差分隐私的方法在训练效率上有极大的提高。　　(2)本文将机器学习中的变分自编码器引入到加密算法中，将加密算法夹在变分自编码器中，使得解密解码的结果不再是原始的明文，而是生成的新的数据。这种生成加密算法不仅提供了加解密功能，还实现了隐私保护，同时因为变分自编码器的编码结果大小远小于输入的数据，因此生成加密算法还能缓解加密算法的密文扩展问题。　　(3)本文设计了能够适用于不同局部模型类型和结构的联邦学习算法。通过将局部个体在其私有数据集上训练得到的知识传递到全局模型中。设计了安全的全局生成器聚合算法和全局模型聚合算法。　　本文对设计的算法进行了实现，并在现实生活中的真实数据集上进行了测试，测试结果显示，本文设计的算法在实用性，效率和精确性上都表现出了明显的优势，在多方面较已有算法都有所提高。

关键词： 航班延误预测   机器学习   CART决策树   随机森林  

摘要： 随着我国航空运输业的快速发展,航班延误问题日益凸显,进而产生了巨大的经济损失,对航班延误实现精准的预测成为当务之急。本文提出分类回归决策树（Classification And Regression Trees,CART）与随机森林模型相结合的模型预测航班延误情况。旨在通过机器学习算法模型对数据的挖掘,得出较为精确的预测结果,为相关民航单位的协调决策提供参考,论文的主要研究内容如下:首先,对航班数据进行了说明及预处理,详细说明了数据来源,数据量及数据的信息,然后利用主成分分析法对数据预处理,对数据进行了特征抓取,就航班延误的特点对额外特征进行提取,以及特征处理及独热编码。其次,基于CART决策树与随机森林模型构建航班延误预测模型,详细对模型的数学原理做了说明,并且阐述了CART决策树最优特征的寻找原理,给出了CART回归树算法建立的具体流程及决策树输出的结果。并就模型的训练做了介绍,最后对模型的评估做了解释,提出评估指标及方法。关键点在于将本文构建的模型与Logistic回归算法、KNN回归算法和单颗决策树模型进行比对,分析了模型之间的绝对误差与相对误差,并根据评估指标使用交叉验证的方法得出各模型的平均绝对误差MAE与拟合优度R。最后,基于模型的结果进行调优改进,选取需要调优的参数与调优的方法,主要是就模型的剪枝问题做了详细的分析,航班延误预测的优化也主要是在决策树的剪枝。优化后模型的MAE为9.325,R为0.87。

关键词： 机器学习   马铁菊头蝠   激进叫声   胁迫叫声   句法结构  

摘要： 对动物声学交流系统的比较研究,有助于揭示人类语言的起源与进化过程,而阐明动物交流叫声中句法结构与功能是其中的关键环节。在依靠声信号交流的动物中,一些物种能够依据一定的句法规则,将有限的叫声音节组合出无限丰富的内容。在动物的多种社会交流背景中,激进背景和胁迫背景对于动物之间的资源竞争、社会等级的确立以及生存等方面是至关重要的。然而,目前对动物在激进背景和胁迫背景下交流叫声的句法结构及功能仍不清楚,并且缺乏对大规模的动物交流叫声序列数据进行批量处理和自动定量判别的研究方法。因此,本论文选择交流叫声复杂多样的马铁菊头蝠(Rhinolophus ferrumequinum)为研究对象,明确激进背景和胁迫背景下马铁菊头蝠交流叫声的句法结构与功能,并探究多种机器学习方法在动物交流叫声研究中的应用。针对动物声学研究中普遍遇到的叫声重叠问题,本论文基于深度神经网络中的语音分离技术,构建双向长短时记忆网络模型(BLSTMs),分离蝙蝠重叠的回声定位脉冲和交流叫声。同时,针对不同的叫声重叠方式,选取三种恒频型蝙蝠:马铁菊头蝠、大蹄蝠(Hipposideros armiger)和菲菊头蝠(Rhinolophus pusillus)及三种调频型蝙蝠:东方蝙蝠(Vespertilio sinensis)、南蝠(Ia io)、大趾鼠耳蝠(Myotis macrodactylus),测量7种音节参数,比较模型分离得到的叫声与原始叫声之间的差异,验证BLSTMs模型的叫声分离能力以及在不同物种中的通用性。研究发现,BLSTMs模型能够在不影响叫声质量的前提下,将每一种蝙蝠的回声定位叫声和交流叫声成功分离开。并且,对分离得到的6种蝙蝠回声定位脉冲进行聚类分析,正确分类指数(Corrected rand index)达到82.79%,表明经模型分离得到的叫声可以用于声学分析。对于大规模的马铁菊头蝠交流叫声序列数据,本论文使用PHP和Java Script编程语言、HTML标记语言和层叠样式表(CSS)及My SQL数据库,开发交流叫声序列结构分析程序,并使用该程序分析马铁菊头蝠激进背景下的交流叫声句法结构。研究发现,在激进背景下,马铁菊头蝠发出的叫声序列中音节类型、相邻音节之间的转换类型、序列中不同位置出现的音节类型以及序列类型存在选择倾向性,出现概率最高的音节类型为NB-SFM,转换类型为NB-DFM/NB-DFM,序列中前三个位置出现概率最高的音节类型皆为NB-SFM。另外,马铁菊头蝠在激进背景下发出的最可能序列类型为:NB-SFM/NB-SFM/NB-SFM。结合研究中得到的激进背景下的叫声,录制马铁菊头蝠胁迫背景下的交流叫声,运用逻辑斯谛回归模型(Logistic regression)、支持向量机模型(Support vector machine)和决策树模型(Decision trees),对两种背景下的叫声序列进行分类。并且,使用随机森林模型(Random forest model)对12种特征进行贡献度分析,根据得到的结果结合回放实验进一步比较两种背景下叫声序列的句法结构差异。研究结果表明,三种机器学习模型对两个背景下的叫声序列的分类准确度皆高于95%,并且对分类结果贡献度较高的是音节转换、在序列中出现的位置等与序列结构相关度较高的特征。在对此类特征进一步的比较发现,激进背景和胁迫背景下的叫声序列存在句法结构差异。另外,回放实验的结果表明,马铁菊头蝠对两种背景下的最可能序列的回放做出的行为反应具有显著差异。基于马铁菊头蝠激进背景下得到的句法结构不同的叫声序列,设计回放实验并利用Deep Lab Cut深度学习技术分析马铁菊头蝠对回放刺激的行为反应,探究交流叫声音节类型及叫声序列结构可能具有的功能。结果发现,在音节类型不同的序列刺激的回放实验中,马铁菊头蝠右前臂移动的速度和总距离具有显著差异;在音节排列顺序不同的序列刺激的回放实验中,马铁菊头蝠左耳移动的速度和总距离具有差异;在重复次数不同的叫声序列刺激的回放实验中,马铁菊头蝠的左右前臂、头部、嘴部和左右耳移动的总距离及蝙蝠在回放期间发出的回声定位脉冲数量都存在显著差异。以上研究结果表明:(1)机器学习方法可以作为有效工具应用于蝙蝠叫声音节分离、叫声序列分类、行为标记等研究;(2)马铁菊头蝠交流叫声存在句法结构,在相同行为背景下的叫声序列排列组合方式相对固定,而不同行为背景下的句法结构存在差异;(3)马铁菊头蝠的交流叫声中,不同音节类型含义不同,且音节组成的不同结构的序列含义也不同,推测马铁菊头蝠交流叫声中的句法结构形式属于组合式句法。本论文研究结果能够为大规模动物叫声序列结构研究提供有效的分析工具,对机器学习方法在动物声学研究中的运用具有启发性作用,为阐释动物交流机制及交流信号与行为的形成与演化提

关键词： 类风湿性关节炎   SYK抑制剂   机器学习   QSAR   描述符  

摘要： 类风湿性关节炎是一种慢性和进行性自身免疫性疾病,其病理特征是整个身体多个关节出现对称性肿胀和疼痛。它的大多数临床表现是关节炎症,它是所有慢性炎症性关节疾病中最常见的,并影响大多数成年人。基于类风湿性关节炎的发病机理以及相关的分子细胞和病理生理学研究,发现脾酪氨酸激酶(SYK)在类风湿性关节炎的发病机理中起着非常重要的作用。SYK(Spleen tyrosine kinase)全称是脾酪氨酸激酶,是一种非受体型酪氨酸激酶。SYK抑制剂可以用于治疗类风湿性关节炎。本文引用了许多种可以对SYK产生强的抑制活性的小分子物质。根据小分子的活性(p IC)值,利用Python进行了定量构效关系(QSAR)研究,并建立了训练集、测试集和验证集,使用多种机器学习算法来测试这三个数据集的预测能力,结合四种机器学习算法对SYK抑制剂进行QSAR建模分析,从而筛选出一些特征值描述符对新的SYK抑制剂的活性值进行预测。具体研究内容如下:(1)筛选描述符:通过特定的选择算法对使用的1444个描述符进行筛选,经过三步筛选操作以后,剩余的描述符数量为一百个以内,并且相关性都在0.6以下。自身方差变化都高于0.1。(2)建立QSAR模型:使用随机森林等算法对238个结构多样的SYK抑制剂进行活性预测,并且使用特征值选择算法对剩余的几十个描述符进行特征值选择,最终建立的QSAR模型不但有很好的预测效果,而且还能鉴别出与SYK抑制剂活性相关的重要描述符。同时本文也使用遗传算法耦合支持向量回归技术对SYK抑制剂进行预测,该算法可以同时实现对描述符进行选择和对支持向量机参数进行优化,这样不但可以大大增加模型的计算效率,而且还提高了模型的预测能力。该模型最终给出训练集相关系数R=0.94,测试集预测相关系数R=0.91。使用建立的模型可以在药物合成前对SYK抑制剂进行筛选、预测和优化。(3)通过以上的这些方法本文产生了最终的结果。特征值选用10个以内的2D描述符,得到的结果分别为:随机森林算法训练集R=0.91;支持向量机算法训练集R=0.94;KNN算法训练集R=0.76;GBRT算法训练集R=0.88。都达到了较好的结果。本文所建立的模型都展示出了较高的预测能力,它们在药物设计的早期便可以筛选出理想的药物分子,并且可以为以后合成高活性的药物分子提供强有力的理论支持。

关键词： 概率积分参数   开采沉陷预计   多种群遗传算法   多核支持向量机   BP强预测器   混沌算法  

摘要： 开采沉陷预计模型及参数体系是“三下”采煤设计的核心基础理论。准确、可靠的反演概率积分参数是实施精准地表沉陷预计的前提,构建地表下沉预测模型是矿山开采的难点,但对于由开采沉陷引发的地质环境灾害的防治具有重要意义。当前文献表明,已有学者建立了概率积分参数和开采沉陷下沉预计模型,但是仍然存在一些问题:（1）在实测值反演概率积分参数的过程中,标准遗传算法（SGA）求取概率积分参数存在易早熟收敛,后期易陷入局部最优解的缺点。（2）在缺少观测站的矿区的概率积分参数预计过程中,BP神经网络没有考虑概率积分参数的相关性而导致概率积分参数预计的精度的降低,与最终的下沉和水平移动曲线不符合;（3）对于单个下沉点的预测,BP神经网络易陷入局部最优解,同时没有考虑残差而导致精度降低;（4）淮南矿区是高水位矿区,随着矿山开采的进行,水将淹没监测点导致监测点无法测量。支持向量机（SVM）在水下下沉点的预测过程中,单核函数在泛化能力方面较低,同时没有考虑残差而导致精度的降低。针对以上问题,本文进行了一定的研究,主要取得以下结论:（1）利用加权的思想提出了多种群遗传算法（MPGA）来反演概率积分参数。在实测值反演概率积分参数的过程中,为了弥补标准遗传算法（SGA）单个种群求取概率积分参数的早熟收敛,后期易陷入局部最优解的缺点。提出了多种群遗传算法（MPGA）来反演概率积分参数,研究了该算法的准确性与可靠性。模拟实验表明:基于MPGA的概率积分参数反演模型不仅能够准确求取预计参数,而且对于观测站数据中的随机误差和监测点缺失都具有较强的抗干扰能力。朱集东煤矿1222（1）工作面概率积分法求参实验表明:在MPGA只迭代了 57次就收敛,然而SGA迭代了 100次才收敛的情况下,MPGA得出的下沉值和水平移动值的拟合标准差是31 mm,SGA得出的下沉值和水平移动值的拟合标准差是32 mm,表明基于MPGA的求参模型较SGA求参模型在准确性、迭代次数这几个方面有一定的优势。（2）提出了一种新的改进的神经网络概率积分参数预计算法。为了提高对于缺少观测站的淮南矿区的概率积分参数预计的精度,提出了一种新的改进的神经网络概率积分参数预计算法（NIBPNN）,不仅考虑概率积分参数的相关性,同时还考虑概率积分参数的准确性。将全国105个矿作为训练集,4个淮南矿作为测试集,利用以上模型对概率积分法参数进行预计,并且分析模型预计参数的精度、下沉值和水平移动值的中误差,结果表明NIBPNN较BPNN,IBPNN有较大的改善。（3）利用加权的思想提出了多个BP神经网络加权的融合混沌残差的BP强预测器（BP-Adaboost）的地表下沉预测模型。为提高地下开采引起地表下沉预测结果的精度,由于BP神经网络在单点下沉预测中精度较高但容易陷入局部最优解,于是提出了融合混沌残差的BP强预测器（BP-Adaboost）的地表下沉预测模型。以顾北矿1312（1）实测值为例,分别用融合混沌残差的BP-Adaboost模型、BP神经网络模型和BP-Adaboost模型对最大下沉值点进行稳定期和活跃期的单步预测和多步预测,结果表明,融合混沌残差的BP-Adaboost模型无论是在单步预测还是在多步预测上的精度均最高,尤其在单步预测上有显著的提高。（4）利用加权的思想提出了多个核函数加权的带有混沌残差的遗传算法优化的多核支持向量机（CHAOS-GA-MK-ε-SVM）水下预测模型。由于淮南矿区是高水位矿区,随着矿山开采的进行,水将淹没监测点导致监测点无法测量,SVM在水下监测点下沉预计中精度较高。提出了一种带有混沌残差的遗传算法优化的多核支持向量机（CHAOS-GA-MK-ε-SVM）水下预测模型。基于无水沉降区域的实测数据,用CHAOS-GA-MK-ε-SVM模型对水下下沉值进行预测,并分析预测结果的准确性和可行性。淮南顾北煤矿1312（1）首采面表明:在监测点的数据较为完整的情况下,CHAOS-GA-MK-ε-SVM模型精度较高,活跃期6期预测值中有4期可用,前4期平均相对误差（MRE）为1.7%,精度较高可以使用,而最后2期MRE是9.6%,精度较低不可以使用。谢桥2111（3）表明:在监测点的数据较为完整的情况下,CHAOS-GA-MK-ε-SVM模型精度较高,稳定期6期预测值中所有期都可以使用,6期的MRE是0.9%。但在监测点的数据严重缺失的情况下,训练样本缺少将会导致CHAOS-GA-MK-ε-SVM模型过拟合,此时应当采用遗传算法优化的支持向量机（GA-ε-SVM）模型去预测水下下沉值。GA-ε-SVM模型6期预测值中所有期都可以使用,6期的MRE是3.3%。图23表27参81

关键词： 同态加密   机器学习   多密钥   NTRU   CSP  

摘要： 近年来,越来越多的机器学习算法依赖于云计算.当机器学习在云环境中进行训练或分类时,容易引发攻击者对数据的恶意获取和利用.因此,本研究在国家自然科学基金“大数据环境下车联网隐私保护及拜占庭容错协同融合机制”,重庆市教委科学技术研究重点项目“多源异构数据环境下车联网信息的安全传输及形式化验证方法”,重庆市基础科学与前沿基础研究项目“山地环境下车联网海量数据隐私保护协同融合方法研究”等基金的支持下,基于多密钥同态方法对隐私机器学习方法做了相关的研究.论文的主要工作如下:1.为了解决机器学习中加密数据冗余导致训练过拟合的问题,本文构建了一个能够防止在云服务器上出现冗余的隐私存储和通信方案.该方案在保证语义安全的前提下,利用数论工作组构造了一个两方重复数据清洗协议.具体来说,客户端提供了待上传数据的去重标签,云服务器同态地检查标签列表中是否存在冗余,存在重复的情况下,服务器中文件对应的标签和相应的解密密钥将被返回,从而赋予客户端下载和解密文件的能力.分析表明,该方案的安全性可以规约到格上的最近向量问题,并且完全实现了语义安全,同时,该方案不需要任何可信第三方假设.2.在明文数据训练模型的基础上,基于重线性化技术,本文采用多密钥同态加密算法将现有模型改造为密文驱动模型,这种模型解决了机器学习过程中的回归隐私问题.结合对输入数据进行实数编码、解码和对激活函数多项式近似的方法,实现了加密方式的神经网络回归.在该模型中,可以同态多密钥加密数据,在语义安全的前提下完成数据预测.实验结果表明,数据加密后回归精度与加密前的预测精度非常接近,而在整个过程中,服务器和数据提供者的真实信息都不会暴露给对方.3.为了进一步保护在多数据提供者场景下机器学习训练过程中的隐私,本文提出了一种同时针对多方数据和单个模型的神经网络隐私训练及回归方法,各个数据提供者分别与云进行一次加密交互,最终实现隐私机器学习的训练及回归.结合共轭搜索问题和离散对数问题的困难性,训练数据和系统模型的保密性可以规约到充分研究的安全假设上.在效率方面,由于所有的消息都被编码为低维矩阵,与明文实现相比,存储和计算开销的扩展率是线性的,没有精度损失.同时,由于该方案基于完全同态加密算法,所以容易被移植到其他涉及多方的机器学习模型中.

关键词： 沙化土地   有机碳含量   估算方法   空间分布  

摘要： 中国是遭受土地沙化严重困扰的国家之一，第五次全国荒漠化调查统计显示，截止2014年我国的沙化土地面积达到了172.12万平方公里，在国土面积中占比达到了17.93％，因此土地沙化已经成为影响我国粮食安全和可持续发展两个基本战略目标的重要问题。土壤有机碳含量降低是土地沙化最为重要的特征之一。联合国防治荒漠化公约(United Nations Convention to Combat Desertification，UNCCD)也将土壤有机碳含量作为评价土地退化的三个指标之一。因此，开展大范围土壤有机碳含量的估算对土地退化与恢复评估具有重要意义。　　本文以数字土壤制图理论框架为参考，借助Google Earth Engine云计算平台海量的在线数据与强大的运算能力，选取Sentinel-2反射率、植被指数和地形、气候等环境协变量为输入变量，利用多元线性回归(MLR)、随机森林(RF)、支持向量机(SVM)三种模型并结合不同协变量输入策略（环境协变量、遥感协变量、全部协变量），开展了中国北方沙化土地表层(0-20cm)土壤有机碳含量估算。研究比较了不同输入协变量、不同建模方法构建的模型的估算精度，并对不同协变量的重要性进行了分析。最终，选取最优模型对中国北方沙化土地有机碳含量开展了估算，对其空间分布特征进行了分析，并探讨了土地沙化程度与有机碳含量之间的关系。主要结论如下:　　(1)模型比较:不同建模方法的选择对土壤有机碳含量估算的精度有很大影响，在不同的模型方法对比上，机器学习方法优于传统多元回归模型，RF(随机森林)模型表现最好，其次是SVM（支持向量机）。在训练集上RF模型的精度达到了R2（决定系数）达到了0.963，RMSE值为0.152，在验证集上也表现出了R2达到了0.81，RMSE为0.22，RPD（误差百分比）为2.29，RPIQ（四分位数偏差）为2.83的精度。　　(2)协变量选择:单独使用环境协变量（气候、地形、土壤信息）或者遥感协变量（波段反射率、植被指数）能够达到一定的估算精度，但是将它们结合起来可以有效提升模型精度。以表现最优的RF模型为例，当输入协变量为包含环境协变量与遥感协变量的协变量集C时，模型的R2可以达到0.81，RMSE为0.22，RPD达到了2.29，RPIQ达到了2.83，相比单独使用环境协变量构建的RF模型的R2提高了0.04，RMSE降低了0.021，RPD提高了0.019，RPIQ提高了0.3，相比单独使用遥感变量的模型R2提高了0.13，RMSE降低了0.073，RPD提高了0.521，RPIQ提高了0.64。　　(3)协变量重要性:根据RF模型中的变量重要性评价，整体来看气候协变量与土壤协变量贡献了最大的重要性(35.6％，30.5％)。遥感变量的重要性得分一共达到了27.3％，主要是由植被指数贡献，其中红边归一化差值指数贡献了5.9％的重要性，在所有协变量重要性排序中排名第三。波段反射率信息只有波段12的重要性大于1％，达到了1.1％。　　(4)空间分布特征:中国北方沙化地区土壤表层有机碳含量整体偏低（有机碳含量均值为0.63％，标准差0.34.），空间上表现出东高西低的分布趋势，而且随着沙化程度的加深有机碳含量逐渐下降，有机碳含量从轻度沙漠化的0.56％变为0.43％（中度沙漠化），0.31％（重度沙漠化）、0.18％（严重沙漠化），有机碳含量从轻度沙化变为严重沙漠化降低了67％，可见土地沙化及恢复对土壤有机碳具有重要影响。

关键词： 人口空间化   堆叠集成模型   POI数据   夜间灯光数据   青藏高原  

摘要： 人口空间化是将基于行政单元的人口更准确的展布于地域空间中,能更充分的展示人口空间分布信息,对施行人口精细化管理,协调人口与资源、环境、发展之间的矛盾具有重要意义。青藏高原是世界屋脊,掌握青藏高原人口分布信息有助于完善全球人口分布特征,如人类居住生活的最高海拔。其次,青藏高原与缅甸、印度、不丹、尼泊尔等多个国家接壤,其地理位置具有重要的战略意义,习近平总书记也曾多次强调“治国必治边,治边先稳藏”,稳藏的第一要务便是掌握人口分布信息。因此,掌握青藏高原人口分布对于稳藏、援藏等国家措施具有重要战略意义。本文以青藏高原为研究区,从自然条件和社会经济两个方面选择海拔、坡度、地形起伏度、归一化植被指数、河流、道路等廊道、夜间灯光数据、POI数据和建成区数据等作为表征人口分布的影响因素。基于2010年第六次全国人口普查乡镇尺度数据,结合青藏高原行政区划,分别用单模型（随机森林模型、XGBooost模型和Cubist模型）和集成模型（加权平均集成模型和堆叠集成模型）将青藏高原人口统计数据空间化为30×30m的栅格数据,并对各模型拟合精度进行验证,讨论了各模型出现差异的原因。同时将拟合结果与World Pop人口数据集和Google Earth影像进行横向比对,进一步验证结果精度。此外,本文基于最优拟合结果,利用空间分析方法,研究了青藏高原人口分布特征、人口空间分异特征和空间自相关性,以及与各指标因子之间的耦合关系。最后,讨论了各指标因子对青藏高原人口分布的影响程度,同时讨论了单模型与集成模型的优势与适应性范围。主要研究结论如下:（1）所有模型拟合精度均优于World Pop数据集（RMSE=1143.81,R2=0.814）,且Cubist模型采用分段线性回归方法,在单模型中获得了最优的拟合精度（RMSE=865.77,R2=0.893）;堆叠集成模型通过二次机器学习的方法,获得了本文最好的空间化结果（RMSE=799.79,R2=0.908）,其拟合精度较World Pop数据集提升了30.08%。整体看来,基于集成模型的人口空间化方法更适宜用在地形复杂,人口分布差异大的地区。（2）青藏高原2010年人口总数在1173.6～1204.8万人,平均人口密度为4.56～4.68人/km2。人口分布呈现出东南密集,西北稀疏的水平地带性和三级阶梯式的垂直分布特点。河湟谷地、雅鲁藏布江流域中游谷地、一江两河等河谷农业发达地区是青藏高原人口集中分布的核心区。通过在栅格尺度的异质性计算,发现青藏高原人口分布异质性总体较高,而异质性较低的地区主要分布在城市内部。通过空间自相关分析,得到全局莫兰指数为0.8241,人口分布存在显著的正向空间自相关关系,且以低-低聚类分布为主,高-高聚集分布现象主要发生在青藏高原东部,以西宁、拉萨、格尔木市、日喀则市为代表。结合空间自相关分析和异质性结果,发现人口分布异质性较低的地区分布在人口高-高聚集区,而人口异质性较高的地区分布在人口低-低聚集区。（3）青藏高原人口分布的海拔上限为5800m。此外,青藏高原约2/3的人口主要分布在坡度为小于25°、地形起伏度小于300m,距河流距离小于8km的范围内。说明青藏高原人口主要分布在海拔较低、坡度较小、地形较平坦、水源充足的区域。在社会经济方面,人口主要分布在基础设施较完善、经济较发达、交通便捷的地区。在影响人口分布的因素中,海拔、距建成区距离、人居指数是影响人口分布的三大主要因素,总体而言,地理要素决定了某一地区是否存在人口分布,而社会经济要素决定了这一地区人口分布的数量。