教学课程资源库 更多>>

关键词： CPU   GPU   常微分方程   并行计算   RIDC  

摘要： 在面临需要进行建模仿真的工程问题时,可能会需要描述一些可测量的量如位置、温度、密度、浓度、电流等作为函数时间,一般均会涉及大型常微分方程(Ordinary Differential Equations,ODE)的初值问题(Initial Value Problem,IVP)求解。常微分方程是包含一个自变量的一个或多个函数以及这些函数的导数的微分方程。常微分方程的数值模拟在科学技术领域具有重要意义。但是,当前求解常微分方程常用的求解方法主要是通过MATLAB进行仿真求解。面对国外软件的封锁和壁垒,设计并提出一个自有的微分方程求解模型是十分有必要的。因此,本文基于C++和CUDA语言设计并实现了两个常微分方程求解模型。当前传统的常微分方程并行求解方法主要面临以下几个问题:首先,现有常微分方程求解方法通常是顺序执行的,求解效率较低;其次,尽管并行模拟硬件设备和并行计算技术发展迅速,但CPU和GPU的多核利用仍然效率低下;第三,并行模拟受计算模式的限制,与现有的并行底层支持不匹配。特别是在求解常微分方程时,模型之间存在输入与输出的依赖关系,这决定了求解过程的顺序。因此,当前的并行模拟性能主要取决于并行度,而算法软件并没有进行并行优化或提供并行设计接口,导致CPU和GPU的利用率较低。传统的常微分方程并行求解方法主要分为面向任务的并行求解和面向方法的并行求解。然而,这两种求解算法都只是面向CPU或同质常微分方程的集合,存在严重缺陷。为此,本文设计并实现了两种常微分方程求解模型的优化。第一种模型基于RIDC(修正积分延迟校正)算法,提出了一个在CPU和GPU上都分配任务的混合求解器,并实现了流水线形式的计算,同时获得了在单个方程和多个不同方程之间的显著并行性。该模型由四个部分组成,分别为任务生成器、调度器、同步器和内存池,以此实现常微分方程的高效求解。该框架可以充分利用GPU的多核优势,有利于计算节点内的负载平衡;第二种模型是基于在用C/C++库求解常微分方程时,由于需要对常微分方程先进行编译,通常使用的静态绑定技术实现GPU和CPU之间的动态任务平衡和按需交互变得难以实现。为解决这个问题,设计了一种基于文本的常微分方程求解框架,该框架结合了即时编译和耦合的CPU-GPU计算方法,提高了求解效率。通过对比实验,发现本文提出的基于流水线模型的常微分方程求解模型和基于文本的常微分方程求解模型准确性高,且求解效率实现了显著提升。

关键词： 人体运动   轨迹预测   神经常微分方程   空洞卷积神经网络  

摘要： 近年来，人体运动轨迹预测成为人工智能领域中的研究热点，广泛应用于人机智能交互、自动驾驶和智慧城市等领域。尽管现有人体运动轨迹预测研究已经取得了显著进展，但复杂环境下人体运动的高维性、关节空间协作性和强时序性等特性使得预测效果并没有完全满足相关行业的实用标准。因此，如何在复杂环境下准确捕捉其时空特征，进而实现精准预测，是人体运动轨迹预测算法面临的重大挑战。一般地，基于深度学习的算法具有从人体运动轨迹数据中探索其时空演化规律的能力。其中，基于神经常微分方程的预测方法因其清晰的数学结构和优异的内存效率而受到国内外学者的广泛关注。　　在人体运动轨迹预测领域中，存在因传感器遮挡、污损产生的数据丢失与不连贯问题，而传统深度学习方法受限于固有缺陷与人体运动编码困难，故难以处理“不规则”的时序数据。然而，神经常微分方程通过连续时间范式，实现了在同一框架下处理“不规则”数据和“规则”数据，适用于解决上述问题;同时，本文也研究了其收敛性问题。因此本文提出了基于神经常微分方程的人体运动轨迹预测方法，主要研究工作如下：　　1） 针对遮挡导致的数据丢失与不连贯问题，提出了基于改进神经常微分方程的人体关节轨迹预测方法。首先，神经常微分方程建立了对人体运动轨迹进行“不规则”采样的预测模型，设计了神经常微分方程的正向传播过程;其次，将预测模型带入利普西茨计算得到谱范数约束定理，提出了具有谱范数约束的神经常微分方程网络，改进了其收敛性，解决了遮挡导致的数据丢失与不连贯问题;最后，通过手腕关节的轨迹预测实验证明了所提方法的有效性。　　2） 针对传统深度学习方法固有限制与人体运动编码困难等问题，在改进神经常微分方程的基础上，耦合了空洞卷积神经网络，提出了一个新的端到端前馈网络模型：卷积—受控神经常微分方程网络。该网络通过引入一个新的轨迹空间，对具有耦合时空特征、局部相关性，全局相关性和时间相关性的人体运动轨迹序列进行运动学建模。首先，卷积-受控神经常微分方程网络以非递归的方式捕获遮挡环境下的人体运动轨迹序列，并通过空洞卷积模块同时编码人体运动序列的时空维度信息;其次，通过堆叠多个残差块并结合人体骨架信息编码人体关节之间的局部相关性和全局相关性信息;再次，通过神经常微分方程编码人体运动轨迹的时间相关性信息;最后，通过卷积模块解码为短时预测的人体运动轨迹序列，并在公开数据集 H36M 上取得良好结果，解决了传统深度学习方法固有限制与人体模型编码困难等问题。　　综上所述，本文针对遮挡环境下的人体运动轨迹预测问题，提出了基于神经常微分方程的预测算法，并通过谱范数约束改进了收敛性;在此基础上，结合深度学习方法，设计了卷积—受控神经常微分方程网络，促进了神经常微分方程在人体运动轨迹预测领域的发展，并通过实验验证了其有效性。

关键词： 常微分方程   思政教育   教学案例  

摘要： 常微分方程课程是应用型课程,是承接教学理论和实际问题的桥梁。本文从常微分方程课程思政教育的现状和必要性入手,以教学案例为载体,挖掘思政教育策略,以供参考。

关键词： 癫痫发作检测   深度学习   神经常微分方程   残差网络  

摘要： 癫痫发作会影响患者的身体功能,并对他们的大脑造成不可逆的损伤.及时诊断癫痫发作并给予抗癫痫药物治疗至关重要.脑电图检测是诊断和监测癫痫发作最常用的工具.传统的癫痫发作检测依赖于神经科医生对患者的脑电图通过视觉进行检查.由于数据量较大,基于人类视觉的检测方法不仅耗时耗力,而且容易造成误诊.近年来,随着计算机设备与并行计算理论的发展,基于数据驱动的癫痫发作检测技术成为了研究的热点.本文以深度学习和神经常微分方程模型为技术手段,开展快速高准确率的癫痫发作端到端检测研究,本文的主要工作总结如下.首先,针对现有的混合深度学习模型癫痫发作信息有限以及难以聚焦鉴别性特征的问题,提出了一种差分注意力残差-长短期记忆网络模型(Difference Attention Res Net-LSTM,DARLNet).所提模型使用Res Net和LSTM分别捕获空间相关性和时间依赖性,并设计了一种差分层,用于自动挖掘额外的癫痫发作信息;此外,引入通道注意力模块,使得模型聚焦于与癫痫发作相关的特征信息.基于波恩大学癫痫脑电图数据集,开展了多组实验对DARLNet的性能进行了评估,验证了DARLNet在两类和五类癫痫发作检测任务上的优越性.然后,本文首次将NODE应用于癫痫发作检测领域中,研究了基于神经常微分方程(Neural Ordinary Differential Equations,NODE)的癫痫自动检测方法.NODE相比于传统的深度学习模型具有参数量小、计算效率高的优势.本文在NODE的基础上,引入了扩充求解空间的机制,且构造了差分层用于挖掘高层次的癫痫发作特征,从而建立了一种差分增强神经常微分方程(DANODE).实验结果表明,所提DANODE模型相对于竞争方法在二分类和五分类检测任务中取得了最优的癫痫发作检测准确率,分别比NODE模型高出了4.32%和21.06%.

关键词： 深度学习   时间序列数据分析   常微分方程拟合   常微分方程未知参数求解  

摘要： 常见的一类科学问题是预测常微分方程的参数,使用数值方法求解该类问题耗时长且精度较低。近年来深度学习方法在分析和处理时间序列数据问题中发挥了巨大潜力,虽然有较多方法使用深度学习求解常微分方程的数值解,但极少使用深度学习求解时间序列数据背后潜在的常微分方程的未知参数。 本论文提出了求解常微分方程参数的深度学习框架—ODENNF。使用该框架可以在常微分方程的参数值分布已知的情况下,从较短的时间序列数据中预测常微分方程中的参数值。ODENNF中包含了数据模拟和预处理过程,以及四种神经网络模型,分别为:全连接神经网络、循环神经网络,变分自动编码器,ODE-RNN。其中ODE-RNN结合了循环神经网络处理时间序列数据与神经常微分方程离散化时间步长的特点,用于处理长间隔或不规则间隔的时间序列数据,可以有效学习数据中的常微分方程参数值。 为了验证ODENNF的可行性,本论文分别使用洛伦兹、菲茨休-南云、捕食-狩猎者三类常微分方程数据进行模拟实验测试。实验结果表明,处理不同长度的时间序列数据时,使用ODENNF预测误差小于数值方法,ODENNF预测误差在0到1左右,数值方法预测误差却在1到1*10～6之间。此外,使用ODENNF预测耗时优于数值方法。。虽然ODENNF训练耗时较长,如ODENNF训练模型耗时在1到8个小时范围,但在处理大量数据的情况下,ODENNF仍具有较大的优势。以预测500组时间序列数据为例,其预测耗时均值为0.1s,而迭代次数为5000的数值方法预测耗时为2到5分钟。 本论文开源了使用该框架求解常微分方程未知参数的软件包。该软件通过配置文件指定神经网络模型,具有一定的可扩展性。同时简化了使用深度学习方法求解该类问题的过程。该软件包提供三个接口,包括数据模拟,模型训练及模型预测,方便科研人员使用该软件包进行常微分方程未知参数的求解。 本论文使用该软件包提供的接口计算捕食-狩猎者方程的两个真实数据集,并与数值方法方法作比较。结果表明,该软件包可以有效处理真实世界的数据,在准确性和时间成本上,均优于数值方法。

关键词： 全光信号处理   全光常微分方程求解   微环谐振器   萨格纳克环  

摘要： 近年来,随着人工智能、大数据、6G以及量子通信等技术的发展,需要用常微分方程（ODE）构建相关复杂的数学模型进行分析与预测。传统的以电子技术为基础的信号处理系统数据处理能力和速度已接近极限,而光信号处理具有较高的带宽且能够极大地突破此极限,因此研究光学常微分方程的求解具有重要的理论和实际应用价值。而常系数线性常微分方程（C-LODE）是其中最基本、应用最为广泛的一类,在这类方程的全光求解方案中,目前存在常系数可调操作复杂、求解形式单一以及无法对高阶进行求解等缺点。针对上述问题,本文提出了两种基于绝缘体上硅（SOI）平台的解决方案,分别为:双可调微环谐振器（MRR）的C-LODE全光求解和双萨格纳克环耦合马赫曾德尔干涉仪（DSMZI）的C-LODE全光求解的方案。具体的研究内容概括如下: （1）本文首先总结了C-LODE的研究现状,主要包括基于法布里-珀罗（FP）腔类型以及基于微环谐振器类型的C-LODE全光求解方案。然后分析了基于SOI光波导理论以及耦合模理论,得出耦合系数和波导结构参数的关系,同时研究了微环谐振器、萨格纳克环这两种器件的传输原理,为后续构建两种全光C-LODE求解方案打下基础。 （2）本文研究了一种基于SOI的双可调MRR的C-LODE全光求解方案,详细设计了该结构方案中的各个单一元器件,分别包括矩形光波导、3d B定向耦合器、热光移相器、以及可调耦合器。通过不同的输出端口分别实现了具有单个系数和两个系数的一阶C-LODE的求解。研究结果表明,该方案系数可调操作简单,运算误差较小,可对两种不同形式的一阶C-LODE进行全光求解。 （3）本文研究了一种基于SOI的DSMZI的C-LODE全光求解方案,解析了该方案的系统传输函数与常系数的关系,分别实现了一阶、二阶以及三阶C-LODE的全光求解。研究结果表明,该方案的器件结构尺寸小、常系数可调范围广、能够实现高阶C-LODE的全光求解功能。 本文的研究结果表明,基于双可调MRR的方案可同时全光求解一阶单系数和双系数线性常微分方程,且误差均小于4%。基于DSMZI的方案器件尺寸小、一阶常系数k的可调范围为0.0015/ps-0.092/ps,二阶常系数p的可调范围为0.013/ps-0.174/ps,q的可调范围为0.00004225/ps2-0.007569/ps2。本文的研究结果在未来的大数据、人工智能以及光量子计算等领域具有广阔的应用前景。

关键词： 博弈论   合作行为   期望特征   奖惩抑制   常微分方程  

摘要： 随着人类社会与科技的进步与发展，合作行为的产生与发展已经成为社会、经济以及生物学等领域十分重视的研究课题。近年来，Win-Stay-lose-Learn规则作为一种有效的策略规则受到了广泛的关注，并且通过在囚徒困境博弈中引入了第三种策略，提出了自愿参与的概念。一些研究表明，在一定的背叛诱惑下，Win- Stay- Lose- Learn规则与自愿参与相结合更能促进合作的产生与发展，在高期望和高背叛诱惑值下，合作者的生存仍然是一个具有挑战性的问题。　　基于以上问题，本文通过考虑个体的期望特征和行为特征，将个体根据期望的不同和具体行为进行划分。当个体期望和行为都是两个类别时，可以将个体划分为四类。在期望可以互相转变、行为可以互相学习的基础上，建立群体演化模型，探究个体期望与合作行为的变化规律，对合作的出现与维持提供一定的解释，为摆脱此类困境提供新的思路。　　在第二章中假设个体态度与个体期望同时发生转变，根据期望的不同讲个题划分为高期望收益者和低期望收益者，考虑公众对高期望收益和作者的奖励，根据不同的态度建立群体演化模型。结果表明，当个体期望发生变化时，高期望收益个作者大量存在，即使背叛诱惑很大时，群体中仍然存在大量的合作者。　　在第三章中假设个体先进行态度的转变，在进行期望收益的变化，在第二章的基础上重新建立常微分方程，结果表明，当奖惩值不变时，低期望收益与高期望收益值相差大于0.5时，群体中四种策略共存。当期望收益不变时，奖惩值越大，高期望收益合作者增加，低期望收益合作者无明显变化。由此可见，该机制可以不同程度的促进合作。

关键词： 循环神经网络   门控思想   常微分方程   稳定性   障碍反散射问题  

摘要： 神经网络是一种具有很强的信息处理能力的网络模型,其在视频分析、机器翻译、图像分类等众多领域中都获得了广泛的应用.这种网络模型的成功之处在于其内部大量复杂的非线性网络层可以在各种抽象层面上提取输入数据的特征信息.然而,由于神经网络的参数多,结构高度复杂,导致其可解释性较差.这使得利用完备的数学理论来分析神经网络的内部结构逐渐成为机器学习领域中的热点问题.因此,本文的重点是将神经网络解释为离散的微分方程,并基于微分方程的稳定性理论对神经网络进行稳定性分析.考虑到神经网络和微分方程之间的联系,本文提出条件稳定的GUEM和无条件稳定的RUEM两种网络单元.首先,简述循环神经网络和常微分方程的关系,并利用循环神经网络中的门控思想和微分方程中的前向欧拉法分别设计GUEM和RUEM两种网络单元.其次,在无输入变量下根据微分方程中的稳定性判断定理分别对两种网络单元GUEM和RUEM进行稳定性分析,并分别在二维空间和三维空间中进行稳定性的数值模拟.最后,基于提出的两种网络单元GUEM和RUEM分别搭建两种单层的序列到序列的循环神经网络GUEM-RNN和RUEM-RNN.为验证所提出的GUEM-RNN和RUEM-RNN的有效性,本文将这两种循环神经网络分别用于求解障碍反散射问题.本文选择将远场数据和截断的障碍物边界曲线方程的傅里叶系数分别作为神经网络的输入序列和输出序列,并利用均方误差函数和Adam优化算法来更新神经网络中的权重和偏置,以使得神经网络能够较为精确地重构障碍物的形状.数值实验表明GUEM-RNN和RUEM-RNN均可以有效地解决障碍反散射问题,并具有收敛速度快等优点.此外,在远场数据含有少量噪声的情况下,GUEM-RNN和RUEM-RNN也能够对障碍物形状进行较好的重构.

关键词： 常微分方程   建构主义   变量变换  

摘要： 作者对《常微分方程》教材中的一些案例进行了研究,用合理的数学方法探索并揭示了案例中变量变换的来源,让读者感受知识建构的过程,从而激发读者对数学专业知识学习的热情。

关键词： 线性分数阶常微分   分段三次插值   高阶数值格式  

摘要： 通过分段的三次插值公式近似Caputo型分数阶导数,从而构造了线性分数阶常微分方程的高阶数值格式,接着给出了构造的数值格式的截断局部误差估计,在最后部分我们举出数值算例证明理论分析的正确性。