关键词： 噪声注入   阈值型神经网络   超阈值随机共振   超参数学习   网络量化  

摘要： 为满足存储条件和计算复杂度的制约,分段线性或硬限幅等激活函数构成的阈值型神经网络训练成为一个棘手的难题,原因在于这类激活函数无梯度或梯度为零的特性,因此基于梯度下降的后向传播训练算法无法进行。针对上述问题,本文研究了基于随机共振机制的阈值型神经网络超参数在线学习算法。为了训练阈值激活函数组成的神经网络,本文通过噪声注入方法形成了一个基于随机共振机制的激活函数模型,此方法把阈值型函数改造为连续可导的神经元模型。但是,这类注入噪声构造的基于随机共振机制的激活函数将噪声强度引入了神经网络参数空间,所设计的阈值网络的损失函数的高度非凸,那么通常使用的梯度下降优化器将网络权值和噪声强度同时在线学习过程成为一个挑战。本文借鉴自适应动量估计(Adaptive moment estimation,Adam)优化器原理,对于注入噪声强度参数同样进行了矩估计,设计了基于随机共振机制的阈值型神经网络超参数在线学习随机梯度下降算法,有效地训练阈值神经网络的同时,也表现出了其优越的学习能力。本文还对随机共振神经网络中激活函数的高效性进行了分析,为了解决激活函数饱和区域梯度消失、参数训练不充分以及超参数没有自适应训练等问题,本文提出的带参数高斯误差线性单元(Parametric Gaussian error linear unit,PGELU),并对PGELU这种新型的自适应激活函数赋予了明确的物理可解释性。本文利用常用数据集对PGELU以及常见激活函数进行了测试,证实了PGELU激活函数的高效性。本文还对随机共振阈值型神经网络的轻量化进行了研究,对全连接网络和卷积神经网路中激活函数的二值化进行了实验分析,取得和全精度网络一样拟合或分类精度,这也表明了基于随机共振机制的阈值型神经网络在边缘计算设备中轻量化的可行性。

关键词： 语义理解   文本推荐   相似度计算   公式转化   向量化   习题推荐  

摘要： 个性化推荐是互联网和人们的需求相互融合和发展的产物,它可以帮助人们从海量的互联网资源当中找到准确而有效的信息。如今在线教育的蓬勃发展,随之而来的便是线上教育资源的快速扩充。在教育方面,个性化的推荐仍然需要进一步的发展,一个优秀的推荐算法可以帮助学生及老师在这海量的资源当中获取到合适的习题资源。它不仅可以帮助学生节约寻找习题资源的时间成本,也能够抓住学生的薄弱点,进行有效针对性练习,提高学生学习效率,同时也可以为教育机构提供更好的教学资源推荐服务,具有重要的研究意义和应用价值。本文的研究对象为小学及初中的数学习题,分析数学习题的特征属性并研究出一种针对习题相似性的算法模型。数学习题特征较为复杂,不仅包含各种分类标签,同时还存在文本信息以及众多数学公式。由此本文从习题自身特征属性出发,提出了一种融合习题中数学公式和文本语义及习题标签的相似数学习题推荐算法,并对推荐算法的效果进行评估和优化,从海量的习题资源中为学生精准地找到更为合适的数学习题并进行推荐。本文的主要研究工作如下:(1)提出并实现了一种基于符号路径的数学公式相似度计算方法。本文将Math ML格式的数学公式转化为二叉树结构,其中运算数皆为叶子节点,运算符皆为非叶子节点,并根据这一特性,提取所有根节点至叶子节点的父节点的路径并计算数学公式的逻辑结构相似性,同时提取每个符号节点的子节点并计算数学公式中的语义信息相似性,两者加权计算来表示整体数学公式的相似度。(2)针对习题的其它特征属性,本文提出了一种基于语义及标签的相似度计算方法(Exercise Recommendation Algorithm of Semantic and Label Similarity,ERASLS)。该方法主要思想是通过将题目表达形式标签、知识点标签以one-hot形式特征向量化后,通过余弦相似度计算这两种标签的相似性。同时在doc2vec预训练模型上,提取习题集当中的所有题目文本信息,用以训练一个独特的数学习题文本词向量模型,通过对题目文本进行分词和清理后,输入模型得到一个分布式词向量表示的题目文本,并以此计算两道习题间的文本相似度。将标签及文本相似度通过加权得到本文提出的第二个算法。(3)在对这两种算法进行研究的基础上,本论文提出了一种将数学公式及文本语义与习题标签相结合的数学习题推荐算法,通过对比实验表明,该算法相比较于其它推荐模型在推荐准确率上提高了17%以上。学生可以通过这个算法来进行针对性的强化训练,从而持续地提升对这类习题的理解与应用。

关键词： 小学数学   计算教学   算理   算法  

摘要： 在小学数学教学中，学生计算能力的培养教学重点应集中在通过合理把控算理与算法的关系，稳步推进学生数学运算、数学思维以及数学解题能力的发展。基于此，文章以驱动小学数学计算教学中算理与算法深度融合为研究重点，结合小学数学经典计算教学课例与问题，探讨在小学数学计算教学中通过优化算理讲解、深化算法认识、组织多元练习三种方式促进算理与算法融合的策略，以期提升学生的计算能力。

关键词： 小学数学   整数四则运算   简便算法  

摘要： 四则运算是小学数学的重要教学内容，学生遇到的运算题多是加法、减法、乘法、除法四则的混合运算，做混合运算时的运算顺序是学生能够正确做出答案的基础，小学生在做混合运算时经常出现把握不清顺序、做题不熟练导致计算时间太长等问题，提升小学生的四则运算能力，可以提高学生的数学学习效率，除了需要训练学生按顺序运算的能力，简便算法的学习也很重要，以加法结合律、交换律，乘法结合律、交换律、分配律为基础的凑十法、提取公因数、拆分法等简便算法可以帮助学生快速处理混合运算.本文我们探究了小学数学整数四则运算中的简便算法，首先给出基础的四则运算的运算顺序，接着介绍四则运算的运算定律及由此推出的简便算法，希望能帮助学生认识简便运算的便捷点.

关键词： 智能电表   误差分析   台区线损   联合估计   数学优化模型  

摘要： 智能电表是智能电网的重要终端，是数据采集的基础设施，其计量的准确性影响着供用电双方贸易结算的公平性，因此智能电表运行误差状态的判断非常关键。当前，对智能电表运行误差估计的研究，主要以台区为单位，以能量守恒定理展开，建立线性方程，采用最小二乘相关方法进行求解。但现有模型多采用固定线损或依赖于拓扑参数为基础计算线损，拓扑参数获取困难且存在数据饱和及方程病态问题，因此需要进一步探索如何精准的进行智能电表运行误差估计。论文基于电表用电量数据即台区总表日用电量和用户电表（分表）日用电量，构建智能电表误差与台区线损联合估计的数学优化模型并研究求解算法，论文具体工作如下：　　(1)首先介绍智能电表数据采集系统（AMI），梳理数据采集过程;研究原始电量数据的预处理技术，包括清除冗余和异常数据，识别病态数据，插补缺失数据;最后依据倍率将处理好的数据整合为分表电量数据矩阵和总表电量数据矩阵。同时，对电表分拣误差和台区真实线损的分布进行分析，以解决后续的电表误差估计问题。　　(2)根据电表分拣误差的分布和领域知识，利用动态线损的设定，建立了智能电表误差估计的稀疏优化模型，其中电表误差的L0/L1范数作为稀疏正则项。然后，设计了一种基于交替方向乘子法的算法交替计算电表误差和动态线损。通过在真实台区上数据进行验证，证明了所提方法可以有效估计电表误差，并且获得比现有方法更优异的表现。　　(3)考虑电表误差与台区线损率的强相关性，提出一种基于约束优化的智能电表运行误差与日线损率联合估计方法，在大规模量测数据的基础上，建立以智能电表误差与日线损率为变量的欠定线性方程组;通过数据分析和领域知识，获得智能电表误差与日线损率波动的上下界，并以此构造约束优化模型;然后利用原始-对偶算法迭代求解智能电表误差与日线损率。并使用算例验证了所提方法的有效性。

关键词： 数学实体识别   BiLSTM-CRF   自注意力机制   对抗训练   优化算法  

摘要： 自然语言处理是人工智能科学与技术的重要方向,随着大数据时代的发展,智能技术得到广泛的应用,深刻地改变着社会和人们的生活方式,如智能语音识别、聊天机器人Chat GPT等。命名实体识别是自然语言处理的基础任务,随着深度学习的出现,大量神经网络模型应用于命名实体识别任务中,其中研究实体识别的模型算法逐渐增多,在生物医疗、军事、新闻等领域已取得众多成果。然而,数学作为科学研究的基础学科,也是一门重要的科学语言,对于中文数学领域的命名实体识别,目前研究较少,在识别任务中还存在神经网络局部不稳定、实体边界模糊以及实体间长距离依赖等问题。通过文献调研发现,对抗训练、自注意力机制模型能改善上述存在的问题。因此,本文基于深度学习的方法,构建数学数据集,以双向长短时记忆模型和条件随机场(Bi-Long Short Term Memory Model and Conditional Random Fields,BiLSTM-CRF)为基础模型进行改进,开展数学实体识别模型算法的研究,提高数学实体识别的准确率。(1)考虑多种深度神经网络模型的训练速度和性能,实验研究了随机梯度下降(Stochastic Gradient Descent,SGD)、Adadelta、Adam和Adamax优化算法,实验结果表明,SGD算法和Adadelta算法在本文多数模型优化上表现突出,其中Adadelta算法在含有多头自注意力机制模型上的优化效果更佳。(2)针对数学实体间长距离依赖问题,本文提出了一种基于自注意力机制的数学实体识别方法,并根据优化实验,将SGD和Adadelta算法应用到自注意力机制模型的优化中,实验结果表明,本文提出的方法优于BiLSTM-CRF模型识别的效果。(3)针对神经网络局部不稳定、数学实体边界模糊问题,本文引入对抗训练,构建了融合多头自注意力机制的AT-BMHAC(Adversarial Training-BiLSTM-Multil-Head Attention-CRF)数学实体识别算法模型。该模型选择了Adadelta算法进行优化,在实验中精确率、召回率和F1值分别达到93.94%、94.37%、94.05%,比基础模型BiLSTMCRF的F1值提升了1.26%。验证了该模型和算法应用于数学命名实体识别的有效性。

关键词： 数学应用题   隐式常量   逻辑语义   自动解题  

摘要： 数学应用题自动解题算法旨在将人类可读的问题文本解析为机器可理解的逻辑编码,并通过定量推理生成目标方程式,最终得出问题答案。然而,现有模型主要关注问题文本与目标方程之间的映射关系,忽略了问题文本之间的逻辑语义相似性,导致相同类型的题目被解码成不同的方程式。此外,现有模型缺乏对问题文本中隐式常量的精确预测和显式处理,而隐式常量是目标表达式中重要的组成部分。针对上述问题,本文通过对问题文本逻辑语义的聚合训练和隐式常量的统计预测,提高了目标方程式的生成精度和最终答案的求解精度。本文的主要研究工作如下:(1)设计并提出了ICP(Implicit Constants Predictor)隐式常量预测算法,对问题文本中隐含的常量知识进行精确预测。并提出三种融合方法,将隐式常量作为提示信息融入到解题算法中,丰富了问题文本的表征信息,增强了模型的解码能力。在公开数据集上的实验结果表明,ICP算法能有效提高目标方程式的生成精度。此外,ICP算法具有较好的移植性,可嵌入到其他模型中进行联合训练,提高整体模型的解题性能。(2)设计并提出了LSA(Logical Semantic Aggregator)逻辑语义聚合算法,根据目标方程式的结构相似性构建问题文本的逻辑语义相似性,从问题文本中提取高层次的逻辑语义信息,解决了现有模型学习逻辑表征困难、容易受到主题描述干扰的问题。实验结果表明,LSA算法增强了目标方程式生成算法的精度和适应性,在主题性描述发生变化的情况下依旧能够准确提取高层次逻辑语义。此外,LSA算法可与ICP算法协同合作,共同提高整体模型的解题精度。(3)设计并实现了数学应用题自动解题系统,实现了三大功能模块:基于规则库进行模板匹配的自动解题模块;基于知识图谱进行逻辑推理的自动解题模块;问题文本相似性检索模块。满足了实际学习场景下需要对错题难题等进行反复练习和举一反三的切实需求。

关键词： 数学优化算法   皮革裁剪加工   空行程路径   改进蚁群算法  

摘要： 为缩短皮革裁剪加工空行程路径长度、提升裁剪算法的有效性，介绍了空行程路径优化预处理，建立了空行程路径数学优化算法模型；引进蚁群算法对样片裁剪路径进行优化，并进行了皮革面料裁剪加工试验，结果表明改进后的蚁群算法可计算出最优的空行程路径，显著提升了皮革裁剪加工效率。

关键词： 水火电系统   梯级水电   机组检修   数学启发式算法   大规模邻域搜索  

摘要： 大规模水火电系统的丰枯水期季节特性差异较大,还包含复杂的梯级水电耦合关系,给水火电机组检修计划编制以及安全经济运行带来了挑战。此外,在水火电机组的检修优化模型中考虑机组启停能够同时得到可行的检修计划和长期机组组合方案,提高检修计划的可执行性和总体的经济效益,但由于机组数量和优化时段数多以及网络约束数量庞大,导致水火电机组检修优化问题的求解面临挑战。因此,本文在构建考虑梯级水电耦合和机组启停的水火电机组检修优化模型的基础上,重点研究采用高效的数学启发式算法对其进行求解。 首先,以最小化系统总成本为目标,建立考虑机组启停的水火电机组年度检修的混合整数线性规划(Mixed Integer Linear Programming,MILP)模型,实现检修计划和长期机组组合的协同优化。在该问题中包含了梯级水电站间的水力/电力耦合约束和大量的线路传输容量约束。采用检测-添加方法处理传输容量约束,并使用GUROBI求解器求解该问题。通过修改的IEEE 54机118节点水火电系统和某省级155机1348节点水火电系统的仿真,验证了所提模型与先制定检修计划、再安排机组组合的传统模式相比,能提高检修计划的可执行性和整体的经济性。 其次,基于目标标度集合法(Objective Scaling Ensemble Approach,OSEA)提出一种两阶段启发式算法。第一阶段是变量取值探测过程,提出一种检修区间探测策略,用来确定可以固定取值的检修变量;第二阶段是降维求解过程,将第一阶段探测到的检修变量固定取值,求解降维后的模型。在修改的IEEE 54机118节点水火电系统和某省级155机1348节点水火电系统上测试,重点分析了所提算法的解的质量和加速效果。数值结果表明,与原OSEA相比,改进的算法借助所提检修区间探测策略,能够更准确、快速地探测变量取值并固定,加快了在大规模系统算例中获得近似最优解的过程。 接着,提出采用交替准则搜索法(Alternating Criteria Search,ACS)求解上述水火电机组检修优化模型。为了提高求解效率,采用一种基于ACS子问题的检测-添加方法来处理线路传输容量约束,然后从三个方面对ACS进行拓展,即:基于水火电机组检修优化模型特征修改了ACS子问题的数学形式;提出一种基于变量值探测和邻域构造的初始解生成方案;提出在提升解可行性和最优性时的两种变量固定方案。通过修改的IEEE 54机118节点水火电系统和某省级155机1348节点水火电系统的仿真,验证了上述对ACS的扩展能够加速找到水火电机组检修优化模型的高质量近似最优解,并通过分析给出推荐的算法参数设置。 最后,基于大规模邻域搜索(Large Neighborhood Search,LNS)提出一种两阶段交替方向乘子法(Alternating Direction Method of Multipliers,ADMM)。第一阶段基于ADMM框架产生可行解,结合LNS的思想,将原MILP问题分解为若干个连续子问题和整数规划子问题,通过在每次迭代中并行求解若干个子问题并重组来提高收敛速度;第二阶段基于分解的子问题,同样在并行、重组两个环节采用LNS来改进可行解。通过修改的IEEE 54机118节点水火电系统和某省级155机1348节点水火电系统的仿真,验证了所提算法相对于传统的ADMM能够更快收敛,并能通过第二阶段得到近似最优解。

关键词： 数学函数算法   皮革制品   运输配送   路径优化  

摘要： 文章利用数学函数算法对皮革制品运输配送过程进行模型描述；并基于增强学习算法基础，采用奖励函数和状态转移函数对皮革制品运输过程进行智能体强化学习，即通过不断迭代模型优化使配送路径在最短时间内成本降到最低，旨在为皮革企业制品运输优化模式提供思路。