一、带约束的Kantorovich和Wielandt不等式的矩阵形式（论文文献综述）
庞晓伟[1]（2021）在《优化算法在期权定价和随机偏微分方程控制优化问题中的应用研究》文中进行了进一步梳理优化方法在工业生产,日常生活,金融投资,以及气象学等领域中具有广泛的应用[1,4,39].线性互补问题和随机偏微分方程（RPDE）控制优化问题,是优化领域中的两类热点问题.它们都是从实际应用中抽象出来的数学问题,能够较好的解释客观现象[10,19,33,40].前者是一类经典的线性规划问题,可用于描述金融衍生产品定价,保险精算,以及供应链管理等经济类问题.后者是一类有代表性的随机规划问题,主要用于刻画稳态热源问题,最佳流动问题,以及最优形状设计等物理材料问题.随着科学技术的不断发展,以及人们对相关优化问题应用需求的提高,关于上述两类问题理论、算法和应用方面的研究得到不断深入,成果丰硕.本文重点研究美式择好期权定价问题和带随机椭圆型方程约束的控制优化问题,前者是一个特殊的线性互补问题,后者是一个典型的RPDE控制优化问题.论文将针对两个问题的特点,分析它们的求解难点,给出相应的解决方案,构造与之适应的高效数值格式.我们进行了系统的收敛性分析和必要的数值模拟,说明该算法在计算速度和精度上的优势.在第一部分中,主要研究美式择好期权定价问题.该问题是一个二维无界区域上的抛物型线性互补问题,不存在显式解.其数值求解的主要困难在于:（1）求解区域是一个无界区域,直接设计数值格式比较困难;（2）最佳实施边界对应的是一个未知曲面,导致求解区域边界不确定;（3）期权价格依赖于未知的最佳实施边界,导致定价问题变为一个高度非线性的问题.能否同时得到期权价格和最佳实施边界的算法,是解决择好期权定价问题的关键.为了更好地解决该定价问题,本文首先简化原始定价模型,将其转化为一维无界区域上的自由边界（最佳实施边界）问题.接下来,逐一处理上述困难.针对难点（1）,较为自然的想法是对无界区域进行截断,并给出合理的边界条件.截断长度的选择和边界条件的确立,直接影响求解该问题的速度和精度.本文将采用远场截断方法来处理该问题,将简化的定价模型转换成有界区域上的抛物问题.在一定误差范围内,可以通过以下定理得到最短的截断长度X.引理0.1对任意给定的常数ε∈（0,1）,可得（?）其中（?）针对难点（2）,常用的处理办法主要有front-fixing变换和Landau变换.两者效果相似,均可将简化模型的求解区域,转换成规则的矩形区域.本文采用前者解决难点（2）.处理难点（3）是本文的重点工作之一.经过前两步处理后的期权价格φ（y,τ）,是关于未知自由边界b（τ）=lnζ“T-τ)的隐函数.本文将采用有限元方法和牛顿迭代法相结合,同时得到期权价格和最佳实施边界的近似值.基本流程为:对于固定的时间层τm,令bm=b（τm）,给定bm的初值,通过有限元方法得到期权价格对应的向量Φm=（φ0m,φ1m,…,φN-1m）T.进一步,利用φ0m和bm的隐函数关系（?）采用牛顿法更新bm的值.重复上述过程,直到迭代法收敛.从数值模拟结果来看,本文设计的算法计算速度更快,能够高精度的得到期权价格和最佳实施边界,是一种有效解决择好期权定价的数值方法.此外,本文还给出了一些数值解稳定性和非负性的结果.定理0.2假设（?）成立,其中C1,C2都是正常数.若0<β≤（α+1）q2-γα（1+α）,则当θ=0或0.5时,离散系统是稳定的,即（?）其中φhm表示离散解,‖·‖表示L2（Ω）空间中的范数.定理0.3若α ≤0,且（?）足够小,则离散系统的解是非负的,即φjm≥0,j=1,2,…,N,m=1,2,…,M.第二部分是文中的第三章和第四章,重点研究带随机系数椭圆型PDE约束的控制优化问题.该问题来源于随机稳态热源和随机扩散等物理问题,关于其理论分析和数值解法方面的研究具有重要现实意义.与确定性问题的主要不同点在于,RPDE控制优化问题引入了随机变量,能够更好的描述实际问题.但是,这也给数值求解带来了巨大挑战.求解RPDE控制优化问题必需面临的挑战包括:（1）选择合适的方法逼近随机空间;（2）如何近似表示随机状态变量和非随机控制变量;（3）提出高效的算法避免因随机空间带来的维数灾难,降低计算复杂度和存储压力.第三章主要基于有限元方法（FEM）,多重模式展开（MME）,以及乘子交替方向法（ADMM）,针对系数含随机的椭圆型控制优化问题,递进的提出了三种数值解法.我们比较了三种算法的优劣,其中,第三种是最高效的算法.下面我们将针对该问题的求解难点,给出具体解决方案.常用逼近随机空间的方法包括样本类方法,投影类方法,以及级数展开法[18,27,37,104].相较于其他类型的方法,最经典的样本类方法Monte Carlo（MC）因其想法朴实,易于并行,且适合求解高维问题等特点,得到了充分发展和广泛应用.本文的第三章也使用了该方法和多重模式展开法结合,对随机空间进行近似,处理难点（1）.即用M个样本形成的有限期望算子EM来近似期望算子E,也就是说用有限个随机变量的平均近似表示随机变量的一阶矩.容易得到,采用MC近似随机空间时,关于状态变量y（x,ξ）的误差估计为（?）针对难点（2）,算法3.1直接利用FEM,对采样后的状态变量y（x,ξ）i=1,2,…,M和控制变量u（x）进行逼近.进一步,根据离散后的优化系统具有可分的特点,采用ADMM进行求解.该方法思路简单,且具有如下误差估计:定理0.4（?）其中,F为目标泛函,FM.h为离散的目标泛函,y*和u*表示理论上的最优状态和控制,R为有限元基底形成的向量值函数,yt和ut为ADMM形成的第t步迭代解.从结论来看,算法3.1简单合理,分析全面.然而从算法实现的角度来看,该算法存在较大改进空间.若FEM离散时对应的自由度为N,则算法3.1每次迭代需要计算（M+1）个（N × N）这样规模矩阵的逆,且需要存储量为O（MN2）.当求解问题精度要求较高时,M的值会很大,进而导致的高计算量和高存储量是较难接受的.也就是说,算法3.1不太实用.解决难点（3）是第三章的重点内容.基于算法3.1,通过引入MME技术,形成了算法3.2.基本思想是将目标泛函和约束方程中的随机状态变量y关于扰动量级ε做幂级数展开,并做Q截断（记截断解为yQ）.接着将yQ代入约束方程,比较方程两端关于ε相同幂次的系数,得到关于yq（q=0,1,2,…,Q-1）的递推方程组.可以发现,第一项模式解y0与状态变量u之间满足一个确定的方程.其他（Q-1）个迭代方程的特点是,左端是确定的,仅右端含随机变量.进一步,采用与算法3.1相同的策略,可以得到最优状态和控制的近似值.从算法3.2的执行过程可以看出,每次迭代仅需计算2次矩阵的逆,较大程度降低了计算量,减少了计算时间.但该算法仍然需要O（MN2）的存储量.为了进一步优化算法3.2,我们提出了算法3.3.主要想法是利用算法3.2中约束方程组的递推关系,将yq均用y0表示.进而,约束方程的随机系数可以预先生成,与优化迭代无关.这样做的优势在于,约束方程中的随机变量的期望可以提前采用MC方法近似计算,这能够较大程度的降低计算量和存储需求.从算法3.3的数值表现上能够看出,该算法是求解RPDE控制优化问题的一种有效算法.基于算法3.1和算法3.2的相似的分析,可以得到算法3.3的全局误差估计.定理0.5令（y*,u*）为理论上的最优解,（yQ,t,ut）表示算法3.3经t次迭代产生的解,则有（?）其中,F（.,.）表示连续优化问题的目标泛函,FM,h（·,·）表示全离散优化问题的目标泛函.第四章主要是基于FEM和镜像随机下降法（MDSA）,处理RPDE控制优化问题.MDSA是一种应用广泛的随机梯度类算法,该方法最显着的特点是每次对梯度近似时,不需要数量较大的随机样本,因此计算存储要求相对较低.此外,MDSA算法中的度量函数依赖于距离生成函数,不同的距离生成函数（如与L2范数相关的距离生成函数）会产生不同的MDSA格式,进而适合求解不同类型的问题.本文采用经典的L2范数来定义距离生成函数,推导出与之对应的MDSA算法,并将其用于求解RPDE控制优化问题.上文提到,RPDE控制优化问题的主要困难有三点,其主要原因在于随机因素.在第四章中,我们将从随机优化角度重新考虑该问题.主要步骤是先对状态变量和控制变量的物理空间进行离散近似,将原始控制优化问题转化为有限维空间下的随机优化问题.进一步,将其变为与之对应的随机鞍点问题.最后,采用MDSA方法求解,从理论上证明算法的收敛性,从数值上验证其有效性.
殷子然[2]（2020）在《几类锥约束优化问题的稳定性分析》文中认为锥约束优化问题是指约束映射属于某个闭凸锥时的优化问题.这类问题在金融、统计、机器学习及工程等领域有着广泛应用.往往在求解实际问题时很难得到精确解,因此研究锥约束优化问题的稳定性分析理论是有必要的,其在数值计算方法的收敛性分析中起着至关重要的作用.本论文主要研究非线性半定规划问题、二阶锥约束优化问题和C2-锥简约问题这三类锥约束优化问题的稳定性分析.本论文所阐述的主要研究结果可概括如下:1.第三章研究非线性半定规划（NLSDP）问题的稳定性分析.首先考虑NLSDP问题的比C2-光滑参数化更一般的扰动问题,其不要求参数的可微性.利川隐函数定理证明当NLSDP问题的可行解满足Jacobian唯一性条件时,其扰动问题在某一可行解处也满足Jacobian唯一性条件,并且这一局部最优解关于参数是连续的.其次,利用孤立平稳性的图导数判别准则,证明二阶充分性条件和严格Robinson约束规范是稳定点映射孤立平稳性的充分条件,同时也是Karush-Kuhn-Tucker（KKT）映射孤立平稳性的充分必要条件.再次,利用KKT系统解的强正则性得到KKT映射与法方程系统各自二阶方向可微性的等价性.最后,通过度量正则性的假设条件给出半定规划问题局部最优解集和最优值函数定性及定量的稳定性分析.2.第四章研究二阶锥优化问题的稳定性分析.首先,将第三章NLSDP问题的Jacobian唯一性结论完全推广到非线性二阶锥优化问题上.然后针对标准线性二阶锥优化问题,利用问题凸线性及二阶锥自对偶性的特殊结构证明原始问题的强二阶充分性条件等价于对偶问题的约束非退化条件,进而得到与KKT系统解映射的强正则性等价的三个条件.3.第五章研究C2-锥简约问题的稳定性分析.首先利用C2-锥简约集合的特殊性质证明前两章Jacobian唯一性条件的结论在C2-锥简约问题上也是成立的.此外,对于线性复合优化问题,给出Robinson约束规范、约束非退化条件、严格Robinson约束规范及一阶、二阶最优性条件的刻画,然后给出KKT系统解的强正则性的充分条件和KKT映射孤立平稳性的充要条件.最后,通过假设线性复合优化问题为凸问题,利用对偶理论得到二阶增长条件与参数问题最优解集的平稳性是等价的;同时,还建立了 KKT系统解的强正则性与Aubin性质的等价性.
邓琪,高建军,葛冬冬,何斯迈,江波,李晓澄,王子卓,杨超林,叶荫宇[3]（2020）在《现代优化理论与应用》文中研究指明过去数十年间,现代运筹学,特别是优化理论、方法和应用有了长足的发展.本文就运筹与优化多个领域的一些背景知识、前沿进展和相关技术做了尽可能详尽的概述,涵盖了线性规划、非线性规划、在线优化、机器学习、组合优化、整数优化、机制设计、库存管理和收益管理等领域.本文的主要目标并非百科全书式的综述,而是着重介绍运筹学某些领域的主流方法、研究框架和前沿进展,特别强调了近期一些比较重要和有趣的发现,从而激发科研工作者在这些领域进行新的研究.
马丽涛[4]（2020）在《几类非光滑优化问题的模型、算法及在点云匹配中的应用》文中研究说明在科学与工程等众多领域,广泛存在着非光滑优化问题。对于规模较大、结构复杂的非光滑优化问题,经典的离散优化算法往往无法实时求解。神经动力学优化算法作为一种可基于硬件电路实现、并可实时求解的人工神经网络,能更好地求解规模较大、结构复杂的优化问题。最优传输理论作为一种度量概率分布的有力工具,具有强大的应用价值,近年来已成为一个重要的研究领域。本文将利用神经动力学方法、最优传输理论研究几类在实际中广泛存在的非光滑优化问题的求解算法,讨论动力学方法解轨线的性态及最优传输在点云匹配问题中的应用。主要研究内容为:1.针对一类带有一般约束的非光滑分布式凸优化问题,提出了一种具有连续时间形式的多智能体神经动力学算法。此算法可以群集式求解,并可在较宽泛的假设条件下保证各智能体的状态解达到输出一致。特别是保证了算法状态解的有界性和全局存在性,并在优化问题不含简单约束集时得到了状态解的唯一性和“slow解”的性质。最后,证明了状态解可渐近地收敛到等价优化问题的可行域,且各智能体的输出状态解收敛于原分布式优化问题的最优解集。2.针对一类带有一般约束的l1罚非光滑稀疏凸优化问题,提出了一种微分方程形式的投影神经动力学算法。由于目标函数中非光滑项l1范数的存在,常采用具有微分包含结构的神经动力学算法进行求解,但又导致了次梯度选择困难的问题。为此,给出了一个判定l1范数次微分中元素的充分必要条件,进而得到了稀疏优化问题的一个充分必要的全局最优性条件,并基于此条件构建了投影神经动力学算法。其次,研究了所构建算法的状态解在等式约束集内的正不变性,得到了状态解的有界性、全局存在性及在Lyapunov意义下的稳定性。最后,证明了在任何初始条件下,状态解均收敛到稀疏优化问题的一个最优解。3.针对一类带有一般凸约束的非光滑伪凸优化问题,构建了神经动力学求解算法。首先,基于光滑化技术,构建了一个不依赖于可行域信息的正则函数。进而根据正则函数的特殊结构,构建了一种神经动力学算法,证明了算法状态解的全局存在性、唯一性和“slow解”等性质。此外,得到了算法的状态解可在有限时间内收敛到可行域,进而收敛到优化问题最优解集的性质。特别地,在满足特定条件时,可保证状态解收敛到一个最优解。4.针对非光滑非凸点云匹配问题,建立了两种改进的最优传输模型,并设计了求解算法。传统最优传输理论在求解点云匹配问题时,对图像点集间存在的仿射变换、甚至非线性变换缺乏鲁棒性。为提高受复杂形变或噪声干扰的点云匹配的准确率,将正交矩阵、对角矩阵作为变量,结合最优传输理论,诱导出了基于点云匹配的最优传输模型,并结合并行技术构建了快速的求解算法。此外,为处理更复杂环境下（如存在外点或遮挡）的点云匹配问题,设计了相应的正则项,构建了松弛正则化最优传输模型,并设计了求解算法。
李玉[5]（2020）在《基于交替方向乘子法的模型预测控制方法研究》文中研究说明工业控制领域所涉及的受控对象通常是多输入、多输出、有约束高维复杂系统,因而往往难以建立精确数学模型。在诸多先进控制理论中,模型预测控制（Model Predictive Control,MPC）方法在处理多输入输出、有约束等类型特点的复杂大系统控制问题时具有诸多优势,因此已被广泛应用于交通、机器人、飞行器等高新控制领域中。模型预测控制需要在每个采样时刻反复在线求解优化问题。因此,如何在计算能力有限的设备中,优化问题的实时求解一直是困扰预测控制应用的一个关键问题。为了提高线性模型预测控制框架下优化问题的在线计算速度,首先,本文梳理了模型预测控制的发展并介绍了其基本原理及其特征。其次,分析了模型预测控制在实际系统应用中所遇到的困难。最后,总结了求解模型预测控制中优化问题的方法以及提高模型预测控制在线计算速度的研究进展。本文的主要研究内容如下:1、为了提高模型预测控制框架下优化问题的在线求解速度,本文将优化方法——交替方向乘子法（Alternating Direction Method of Multipliers,ADMM）应用于模型预测控制的滚动优化中。交替方向乘子法采用分而治之的思想,将多变量系统高维的整体在线优化问题分解为多个低维优化问题,对分解后的子问题进行分布式优化,从而加快模型预测控制框架中优化问题的在线求解速度。2、为了降低ADMM优化算法对罚参数初始值的敏感度,本文继续深入分析了该算法的原理,探索加快算法收敛速度的方法。其中,残差平衡方法是将原始和对偶残差保持相似的大小来调整惩罚参数,从而降低ADMM优化算法对罚参数初始值的敏感度,加速该算法的收敛速度。我们借鉴这种方法的思想,缓解ADMM对罚参数初始值的敏感问题,以进一步改善优化问题求解速度。3、为了验证自适应ADMM优化算法在模型预测控制问题中的有效性,本文建立了仿真实验平台,并在此仿真平台中分别实验比较了多种优化算法在模型预测控制问题中的收敛性能。具体而言,本研究通过对无人机运动规律进行数值建模,在此基础上,本研究分别实现了多种优化算法。最后,本研究利用不同的优化算法求解无人机轨迹跟踪的模型预测控制问题。实验结果表明,自适应ADMM算法可以显着减少模型预测控制器的迭代次数,提高其收敛效率,极大地减小了计算时延。
刘方辉[6]（2019）在《数据自适应的核学习理论研究及应用》文中研究说明核方法作为机器学习领域中一类重要的非线性方法,广泛地应用在分类、回归、聚类、降维等诸多问题中。目前关于核方法研究的关键是在于如何设计出或学习到更灵活的核函数,用以描述数据的分布特性。本文工作围绕核学习展开,主要从非参数核学习、非正定核学习、核近似问题三个方面进行研究,涵盖了学习算法的逼近理论研究、相似性学习的算法研究以及在目标跟踪领域中的应用研究。研究成果主要集中在以下几个方面:在非参数核学习方面,本文提出了一种基于数据自适应的非参数核学习框架,对预先给定的核矩阵直接施加一个数据自适应矩阵,采用优化的方式灵活地学习到该矩阵的每一个元素,从而得到一个相当灵活的非参数核矩阵。该核学习框架可嵌入至支持向量机（support vector machines,SVM）与支持向量回归（support vector regression,SVR）模型中,用于分类与回归问题,可有效地增加类别之间的间隔并减小模型的泛化误差。针对该优化问题的求解,本文论证了目标函数的梯度是Lipschitz连续的,从而将核学习的训练过程与SVM/SVR中参数优化统一至一个求解框架中。此外,针对非参数核的核近似问题,本文拓展了基于分解的子问题求解策略,使其能够适用于大规模情形。实验结果验证了本文非参数核学习模型的灵活性以及核近似算法的有效性。上述非参数核学习框架灵活地学习到样本之间的相似性值,但无法得到核函数的具体形式,很难用于新样本的预测。针对于这种新增样本扩张（out-of-sample extensions）问题,本文旨在从任意给定的核矩阵中学习得到潜在的核函数,将核函数学习的问题转化为hyper-RKHS（reproducing kernel Hilbert spaces）上的正则化回归问题,提出了两种回归算法进行求解。在学习理论方面,本文研究hyper-RKHS上正则化学习算法的逼近分析,并给出了相应的学习率结果。实验结果表明,本文所提出的算法可以从任意给定的核矩阵中学习得到潜在的核函数,取得了较好的实验结果。考虑到我们无法预测新增样本扩张算法所学到的潜在核函数的正定性（正定或非正定）,因此本文专门对非正定核学习展开研究,提出了再生核Kre??n空间（reproducing kernel Kre??n spaces,RKKS）上基于非正定核的逻辑斯蒂回归模型。由于非正定核的引入,该模型本质上为非凸的。利用非正定核的正定分解,可以将该模型拆分为两个凸函数之差的形式,进而采用凹凸规划（concave-convex procedure,CCCP）进行求解。由于凹凸规划在每一次迭代中均需要求解一个优化子问题,本文提出了一种非精确求解的凹凸规划算法,加速算法求解,并给出理论保证。在学习理论方面,针对非正定核学习算法的学习率问题,本文修正了传统的误差分解技术,给出了RKKS上基于最小二乘的正则化回归算法的逼近分析结果。实验结果表明所提出非精确求解的非凸优化算法非常高效,应用至基于非正定核的逻辑斯蒂回归模型中,在一些典型的分类数据集上也取得了令人满意的效果,分类准确率相比于精确求解方式并未发现较大的下降。非正定核学习算法均涉及到对核矩阵进行特征值分解,很难将其拓展至大规模数据上。然而传统的基于随机傅里叶特征的核近似算法要求核函数具有平移不变性以及正定性,无法适用于多项式核等点乘核以及非正定核的近似问题。因此,本文提出了一种基于狄利克雷混合过程的双变分推断模型用于以上多项式核函数、非正定核函数的随机特征近似。在随机特征的概率分布上给一个狄利克雷过程作为先验,使得该模型框架能够灵活地逼近任意一个核函数。在模型推断过程中,本文所采用的推断方式结合了随机变分推断以及非共轭变分推断的优点,因此参数估计可以高效地进行。实验结果表明,本文所提出的核近似模型能够有效地对任一核函数进行逼近。此外将其应用至分类问题上,在若干大规模数据集上均取得了较好的结果。基于上述核学习研究基础,本文将核方法方面的研究应用至计算机视觉领域中的目标跟踪问题上,提出了一种基于核化版本的多重字典非负编码模型。该模型利用核映射,将字典以及候选样本映射至高维空间中,无需要求候选样本应由字典线性表示这一较强的假设条件,可以更为准确地对目标表观模型进行建模。为了提升编码系数对目标刻画的能力,本文提出了一种多字典集成机制来全面地描述目标外观变化特性,其中多个字典相应的权重可以自适应地学到。权重向量的求解与编码系数的求解可统一至一个优化框架中。在局部编码过程中,本文采用?2正则项代替非负约束,从理论上给出了这种替换成立的条件,可使得优化算法的求解更为高效。实验结果一方面验证了这种替代机制的合理性与有效性,另一方面在目标跟踪标准数据集上全面地验证了本文所提出的跟踪算法的鲁棒性。
邓凉凉[7]（2016）在《绝对值线性互补问题的区间算法》文中进行了进一步梳理互补问题是运筹学与计算数学交叉领域的一类重要问题,被广泛的应用于工程、经济和运筹学中.它是由着名的运筹学家、数学规划的创始人Dantzig和他的学生Cottle于1963年提出的.从互补问题的提出到现在,其发展非常迅速并得到广大研究者的关注和青睐.尤其是最近30多年来,在互补问题的理论和求解方面取得了许多显着成果.本文主要利用区间分析的相关理论结合Moore测试、Miranda测试和Borsuk测试对绝对值线性互补问题的区间算法进行了研究.区间算法在求解绝对值线性互补问题时不仅具有全局收敛的特点,而且还可以根据需要得到最优解,并能确保包络解的误差界足够小,全文主要内容分为如下四个部分：第一部分主要内容：给出相关的定义、引理,对绝对值线性互补问题的研究意义及研究现状进行详细阐述.第二部分主要内容：建立绝对值线性互补问题的等价形式,利用Moore测试给出了绝对值互补问题解的存在性和唯一性条件.第三部分主要内容：应用Miranda定理和Borsuk定理证明绝对值线性互补问题解的存在性,并分别给出了与定理等价的若干条件.此外,通过对Moore测试、Miranda测试和Borsuk测试进行比较,进一步论述三个测试的优劣并给出具体问题求解时选取测试类型的方案.第四部分主要内容：给出绝对值线性互补问题解存在的初始区间,设计求解绝对值线性互补问题的区间算法并证明其收敛性.最后,针对Moore测试进行数值实验,结果表明新算法的有效性和可靠性.在本文的最后对文章做出了总结并对下一步的研究做了展望.
许丽艳[8]（2015）在《解随机互补问题的CVaR-SP模型与DRO模型》文中认为互补问题是数学规划中一类非常重要的问题,在诸如数学规划、控制论、金融等许多科学和工程领域有着广泛的应用.但是在许多实际问题中,互补问题中的参数往往具有不确定性,因此,对含不确定参数的随机互补问题的研究是非常必要的.由于受不确定参数的影响,通常随机互补问题可能无解.构造随机互补问题的合理的确定性近似模型是随机互补问题研究中的重要方向之一,也是本文所要研究的问题.本文的主要工作如下：1.我们用表示随机非线性映射非负性以较大概率成立的机会约束作为随机非线性函数的非负性的松弛,并用CVaR约束近似该机会约束,将随机非线性互补问题转化为以变量非负性和CVaR不等式为约束,以极小化期望残量为目标的模型—带CVaR约束的随机规划模型.为求解该模型,借助罚方法和光滑化技巧,我们提出带惩罚的光滑化样本平均近似方法.证明了在一定条件下带惩罚的光滑化样本平均近似问题的最优解的几乎处处收敛到带CVaR约束的随机规划问题的最优解.并通过数值实验验证带CVaR约束的随机规划模型及其带惩罚的光滑化样本平均近似算法的有效性.2.假设不确定参数的分布包含在某已知部分信息（比如前二阶矩或者前二阶矩连同支集的信息）的分布集中,我们研究关于不确定参数为线性函数的随机线性互补问题,建立该问题的分布鲁棒优化模型：在非负约束和用来表示随机线性映射非负性的的最坏情形下概不小于给定概率水平的联合机会约束下,极小化最坏情形下的期望互补度量.利用锥对偶理论和S-procedure,将该分布鲁棒优化模型保守近似为可用PENLAB软件包求解的含线性目标函数和双线性矩阵不等式约束的非线性半定规划问题或含非线性目标函数和线性矩阵不等式约束的非线性半定规划问题.通过数值实验来说明该分布鲁棒优化模型及其保守近似的有效性.3.假设不确定参数的分布包含在某已知部分信息（比如前二阶矩或者前二阶矩连同支集的信息）的分布集中,我们研究关于不确定参数为线性或者二次关系的随机线性互补问题,建立仅包含一个关于分布的最坏情形子问题的更合理的分布鲁棒优化模型：通过将表示随机线性函数非负性不低于给定概率水平的联合机会约束和期望互补性度量放在一起,考虑其最坏情形,得到含机会约束的最坏情形子问题,并以决策变量非负为约束,极小化该子问题的最优值函数.利用锥对偶理论和S-procedure,将该模型保守近似为可用PENLAB软件包求解的含双线性矩阵不等式的非线性规划问题.通过对带约束的随机线性二次控制问题进行的数值实验说明该模型及其对应的求解方法是有效的.
施红星,刘建忠[9]（2013）在《Wielandt不等式矩阵形式的一些推广》文中进行了进一步梳理Wielandt不等式是对Cauchy-Schwarz不等式的一种改进.利用矩阵Schur补的方法,得到关于正定Herimite阵的一些矩阵形式的Wielandt型不等式,所得结果是Wielandt不等式的更一般形式的表达式.
阮宏顺[10]（2011）在《带约束的Greub-Rheinboldt不等式》文中指出给出了带约束的Greub-Rheinboldt不等式及其应用,丰富了有重要应用价值的Kantorovich型不等式.
二、带约束的Kantorovich和Wielandt不等式的矩阵形式（论文开题报告）
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、带约束的Kantorovich和Wielandt不等式的矩阵形式（论文提纲范文）
（1）优化算法在期权定价和随机偏微分方程控制优化问题中的应用研究（论文提纲范文）
| 摘要 |
| Abstract |
| 第一章 绪论 |
| 1.1 优化算法在美式期权定价问题中的应用 |
| 1.1.1 美式期权的线性互补问题介绍 |
| 1.1.2 研究方法 |
| 1.2 优化算法在RPDE控制优化问题中的应用 |
| 1.2.1 RPDE及其最优控制问题介绍 |
| 1.2.2 研究方法 |
| 1.3 本文的主要结构 |
| 第二章 美式择好期权定价的数值方法 |
| 2.1 预备知识 |
| 2.2 模型问题 |
| 2.3 算法设计 |
| 2.3.1 Front-fixing变换和远场截断 |
| 2.3.2 有限元和牛顿法 |
| 2.4 数值解的性质 |
| 2.5 数值实现 |
| 第三章 随机椭圆型方程控制优化问题的MME算法 |
| 3.1 预备知识 |
| 3.2 模型问题 |
| 3.3 FEM-MC-ADMM算法及误差估计 |
| 3.3.1 FEM-MC-ADMM算法 |
| 3.3.2 误差估计 |
| 3.4 FEM-MME-MC-ADMM算法及误差估计 |
| 3.4.1 FEM-MME-MC-ADMM算法 |
| 3.4.2 误差估计 |
| 3.5 SMME-FEM-MC-ADMM算法及误差估计 |
| 3.6 数值实现 |
| 第四章 随机椭圆方程控制优化问题的MDSA法 |
| 4.1 问题简介 |
| 4.2 鞍点问题 |
| 4.3 MDSA法的基本记号 |
| 4.4 算法 |
| 4.5 数值实现 |
| 第五章 总结 |
| 参考文献 |
| 攻读博士学位期间完成的学术论文 |
| 致谢 |
（2）几类锥约束优化问题的稳定性分析（论文提纲范文）
| 摘要 |
| abstract |
| 主要符号表 |
| 1 绪论 |
| 1.1 锥约束优化问题简介 |
| 1.2 优化问题稳定性分析中的重要概念 |
| 1.3 锥约束优化问题稳定性分析的研究现状 |
| 1.4 本论文研究的主要内容 |
| 2 预备知识 |
| 2.1 变分分析相关预备知识 |
| 2.2 优化问题稳定性相关预备知识 |
| 3 非线性半定规划问题的稳定性分析 |
| 3.1 引言 |
| 3.2 Jacobian唯一性条件 |
| 3.3 KKT映射的孤立平稳性 |
| 3.4 KKT映射的二阶方向可微性 |
| 3.5 半定规划问题的定性及定最稳定性分析 |
| 3.6 本章小结 |
| 4 二阶锥约束优化问题的稳定性分析 |
| 4.1 引言 |
| 4.2 Jacobian唯一性条件 |
| 4.3 标准线性问题强二阶充分条件与对偶约束非退化 |
| 4.4 本章小结 |
| 5 C~2-锥简约问题的稳定性分析 |
| 5.1 引言 |
| 5.2 Jacobian唯一性条件 |
| 5.3 线性复合优化问题的稳定性分析 |
| 5.3.1 最优性条件及约束规范 |
| 5.3.2 KKT系统解的强正则性与KKT映射的孤立平稳性 |
| 5.3.3 凸问题最优解集的平稳性及KKT系统解的强正则性 |
| 5.4 本章小结 |
| 6 结论与展望 |
| 6.1 结论 |
| 6.2 创新点 |
| 6.3 展望 |
| 参考文献 |
| 攻读博士学位期间科研项目及科研成果 |
| 致谢 |
| 作者简介 |
（4）几类非光滑优化问题的模型、算法及在点云匹配中的应用（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 第1章 绪论 |
| 1.1 课题研究背景及意义 |
| 1.2 研究现状 |
| 1.2.1 非光滑优化问题的神经动力学算法 |
| 1.2.2 图像配准问题的最优传输模型 |
| 1.3 预备知识 |
| 1.3.1 符号说明 |
| 1.3.2 非光滑分析等相关知识 |
| 1.3.3 最优传输基本理论 |
| 1.4 本文主要研究内容 |
| 第2章 求解约束非光滑分布式凸优化问题的多智能体神经动力学算法 |
| 2.1 引言 |
| 2.2 算法构建 |
| 2.3 状态解的存在性及其动力学性质 |
| 2.4 状态解的一致性及收敛性 |
| 2.5 实验 |
| 2.5.1 数值算例 |
| 2.5.2 最优载荷控制问题 |
| 2.6 本章小结 |
| 第3章 求解约束l_1罚非光滑稀疏凸优化问题的投影神经动力学算法 |
| 3.1 引言 |
| 3.2 算法构建 |
| 3.3 状态解的存在性及收敛性 |
| 3.4 实验 |
| 3.4.1 信号还原问题 |
| 3.4.2 数据分类问题 |
| 3.4.3 图像恢复问题 |
| 3.5 本章小结 |
| 第4章 求解约束非光滑伪凸优化问题的神经动力学算法 |
| 4.1 引言 |
| 4.2 算法构建 |
| 4.3 状态解的存在性及收敛性 |
| 4.4 实验 |
| 4.4.1 数值算例 |
| 4.4.2 动态投资组合优化问题 |
| 4.5 本章小结 |
| 第5章 求解非光滑非凸点云匹配问题的最优传输模型及算法 |
| 5.1 引言 |
| 5.2 先验概率的确定 |
| 5.3 离散最优传输模型 |
| 5.4 松弛正则化最优传输模型 |
| 5.5 实验 |
| 5.5.1 测试实验 |
| 5.5.2 真实数据集上的实验 |
| 5.6 本章小结 |
| 结论 |
| 参考文献 |
| 附录 第五章相关公式的计算 |
| 攻读博士学位期间发表的论文及其他成果 |
| 致谢 |
| 个人简历 |
（5）基于交替方向乘子法的模型预测控制方法研究（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 第一章 绪论 |
| 1.1 研究背景和意义 |
| 1.2 模型控制的国内外研究现状 |
| 1.3 优化方法在模型预测控制中的研究进展 |
| 1.3.1 求解QP的经典优化方法研究进展 |
| 1.3.2 交替方向乘子法的研究现状 |
| 1.4 论文的主要研究内容和组织架构 |
| 1.4.1 论文研究内容 |
| 1.4.2 论文研究方法 |
| 1.4.3 论文组织架构 |
| 1.5 本章小结 |
| 第二章 相关理论基础 |
| 2.1 模型预测控制基础 |
| 2.1.1 模型预测控制基本原理 |
| 2.1.2 模型预测控制特征 |
| 2.2 交替方向乘子法 |
| 2.2.1 ADMM算法基本原理 |
| 2.2.2 ADMM收敛性分析 |
| 2.3 本章小结 |
| 第三章 基于自适应ADMM的模型预测控制方法 |
| 3.1 模型预测控制框架下优化问题的转换 |
| 3.1.1 更新方程公式推导 |
| 3.1.2 目标函数公式推导 |
| 3.1.3 约束条件公式推导 |
| 3.2 基于自适应ADMM模型预测控制方法 |
| 3.2.1 ADMM于模型预测控制中的应用 |
| 3.2.2 ADMM应用于模型预测控制中实验分析 |
| 3.2.3 自适应ADMM于模型预测控制中的应用 |
| 3.3 本章小结 |
| 第四章 基于a-ADMM在模型预测控制中的仿真实验 |
| 4.1 四旋翼无人机建模与仿真 |
| 4.2 实验分析 |
| 4.2.1 对比方法简介 |
| 4.2.2 实验参数选择 |
| 4.2.3 实验过程分析 |
| 4.3 本章小结 |
| 第五章 总结 |
| 5.1 研究总结 |
| 5.2 研究展望 |
| 参考文献 |
| 图清单 |
| 表清单 |
| 攻读硕士学位期间发表学术论文情况 |
| 致谢 |
| 附录A |
| 附录B |
（6）数据自适应的核学习理论研究及应用（论文提纲范文）
| 摘要 |
| abstract |
| 第一章 绪论 |
| 1.1 研究背景 |
| 1.2 理论基础 |
| 1.3 相关工作 |
| 1.3.1 正定核学习算法 |
| 1.3.2 非正定核学习算法 |
| 1.3.3 核近似算法 |
| 1.4 本文主要贡献 |
| 1.5 本文组织结构 |
| 第二章 数据自适应的非参数核学习算法 |
| 2.1 本章引言 |
| 2.2 用于分类问题的DANK模型描述 |
| 2.3 DANK模型的优化算法 |
| 2.3.1 DANK模型目标函数的连续性 |
| 2.3.2 基于Nesterov加速的可微优化算法 |
| 2.4 用于回归问题的DANK模型描述 |
| 2.5 DANK模型的核近似算法 |
| 2.6 实验结果对比与分析 |
| 2.6.1 分类结果 |
| 2.6.2 回归结果 |
| 2.7 本章小结 |
| 第三章 用于非参数核的新增样本扩张算法 |
| 3.1 本章引言 |
| 3.2 hyper-RKHS上的正则化回归模型 |
| 3.3 hyper-RKHS上正则化回归算法的学习率结果 |
| 3.4 本章主要定理证明 |
| 3.4.1 误差分解 |
| 3.4.2 估计样本误差和输出误差 |
| 3.4.3 学习率推导 |
| 3.5 实验结果及比较 |
| 3.5.1 UCI数据集分类结果 |
| 3.5.2 LFW人脸识别数据集分类结果 |
| 3.5.3 大规模数据集分类结果 |
| 3.6 本章小结 |
| 第四章 基于非正定核的正则化学习算法的求解与分析 |
| 4.1 本章引言 |
| 4.2 基于非正定核的逻辑斯蒂回归模型 |
| 4.3 非精确求解的凹凸规划 |
| 4.3.1 IKLR模型中的CCICP算法 |
| 4.3.2 CCICP-GD收敛性分析 |
| 4.3.3 CCICP-SGD的收敛性分析 |
| 4.3.4 CCICP算法的收敛阶分析 |
| 4.4 RKKS上的基于最小二乘的正则化回归算法 |
| 4.4.1 RKKS上岭回归算法的求解 |
| 4.4.2 RKKS上岭回归算法的学习率结果 |
| 4.5 本章主要定理证明 |
| 4.5.1 误差分解 |
| 4.5.2 估计假设误差 |
| 4.5.3 样本误差估计 |
| 4.5.4 学习率推导 |
| 4.6 实验结果对比与分析 |
| 4.6.1 实验设置 |
| 4.6.2 UCI数据集分类结果 |
| 4.6.3 Yale人脸数据集识别结果 |
| 4.6.4 非精确求解参数?的分析 |
| 4.6.5 CCICP算法的收敛性 |
| 4.6.6 初始化对结果的影响 |
| 4.6.7 关于CCICP-SGD的讨论 |
| 4.7 本章小结 |
| 第五章 基于双变分贝叶斯框架的非正定核近似算法 |
| 5.1 本章引言 |
| 5.2 预备知识 |
| 5.2.1 随机傅里叶特征算法简述 |
| 5.2.2 狄利克雷过程的构造 |
| 5.3 RFF-DIGMM模型的图模型表示 |
| 5.4 RFF-DIGMM模型的变分推断方法 |
| 5.4.1 基于截断狄利克雷过程的平均场方法 |
| 5.4.2 RFF-DIGMM模型变分参数的推导 |
| 5.5 实验结果对比与分析 |
| 5.5.1 实验设置 |
| 5.5.2 核近似算法的逼近结果 |
| 5.5.3 核近似算法的分类结果 |
| 5.5.4 MNIST数据集识别结果 |
| 5.5.5 RFF-DIGMM模型参数分析 |
| 5.6 本章小结 |
| 第六章 基于核化编码的目标跟踪算法 |
| 6.1 本章引言 |
| 6.2 基于核化版本的非负局部编码模型 |
| 6.2.1 LLC算法回顾 |
| 6.2.2 基于核化版本的非负近似LLC算法 |
| 6.2.3 多字典集成 |
| 6.2.4 ?2范数正则化的理论分析 |
| 6.3 基于KNMC的跟踪框架 |
| 6.3.1 观测模型 |
| 6.3.2 遮挡检测机制 |
| 6.4 实验结果对比与分析 |
| 6.4.1 实验设置 |
| 6.4.2 评价指标 |
| 6.4.3 OTB数据集跟踪结果 |
| 6.4.4 缺项分析与参数分析 |
| 6.5 本章小结 |
| 第七章 总结与展望 |
| 7.1 全文总结 |
| 7.2 研究展望 |
| 参考文献 |
| 致谢 |
| 攻读学位期间发表的学术论文 |
| 攻读学位期间参与的项目 |
（7）绝对值线性互补问题的区间算法（论文提纲范文）
| 致谢 |
| 摘要 |
| Abstract |
| 变量注释表 |
| 1 绪论 |
| 1.1 研究背景 |
| 1.2 研究现状及意义 |
| 1.3 相关概念及问题介绍 |
| 2 Moore测试 |
| 2.1 绝对值线性互补问题与定点问题的等价性 |
| 2.2 Moore测试 |
| 3 Miranda测试和Boursk测试 |
| 3.1 Miranda测试 |
| 3.2 基于Miranda定理之上的Borsuk定理 |
| 3.3 Moore测试,Miranda测试和Borsuk测试的比较 |
| 4 算法及数值结果 |
| 4.1 迭代方法及其收敛性分析 |
| 4.2 数值结果 |
| 5 总结与展望 |
| 5.1 总结 |
| 5.2 展望 |
| 参考文献 |
| 作者简历 |
| 学位论文数据集 |
（8）解随机互补问题的CVaR-SP模型与DRO模型（论文提纲范文）
| 摘要 |
| Abstract |
| 目录 |
| CONTENTS |
| 图表目录 |
| 主要符号表 |
| 1 绪论 |
| 1.1 随机互补问题 |
| 1.2 分布鲁棒优化 |
| 1.3 非线性半定规划 |
| 1.4 本文的主要内容 |
| 2 解随机非线性互补问题的带CVaR约束的随机规划模型 |
| 2.1 引言 |
| 2.2 带CVaR约束的随机规划模型 |
| 2.3 带惩罚的光滑化样本平均近似算法 |
| 2.3.1 带惩罚的光滑化方法 |
| 2.3.2 样本平均近似 |
| 2.4 收敛性分析 |
| 2.5 数值实验 |
| 2.6 本章小结 |
| 3 解随机线性互补问题的分布鲁棒优化模型 |
| 3.1 引言 |
| 3.2 分布鲁棒优化模型 |
| 3.3 已知前二阶矩时的DRO模型的保守近似 |
| 3.3.1 最坏情形的目标函数的等价表示 |
| 3.3.2 最坏情形的联合机会约束的保守近似 |
| 3.3.3 分布鲁棒优化模型的保守近似 |
| 3.4 已知前二阶矩和支集时的DRO模型的保守近似 |
| 3.5 数值实验 |
| 3.6 本章小结 |
| 4 解随机线性互补问题的更合理的分布鲁棒优化模型 |
| 4.1 引言 |
| 4.2 更合理的分布鲁棒优化模型 |
| 4.3 已知前二阶矩时DRO模型的保守近似 |
| 4.4 已知前二阶矩和支集时RDRO模型的保守近似 |
| 4.5 带约束的随机线性二次控制问题 |
| 4.6 本章小结 |
| 5 结论与展望 |
| 5.1 结论 |
| 5.2 创新点 |
| 5.3 展望 |
| 参考文献 |
| 攻读博士学位期间科研项目及科研成果 |
| 致谢 |
| 作者简介 |
四、带约束的Kantorovich和Wielandt不等式的矩阵形式（论文参考文献）
- [1]优化算法在期权定价和随机偏微分方程控制优化问题中的应用研究[D]. 庞晓伟. 吉林大学, 2021(02)
- [2]几类锥约束优化问题的稳定性分析[D]. 殷子然. 大连理工大学, 2020(01)
- [3]现代优化理论与应用[J]. 邓琪,高建军,葛冬冬,何斯迈,江波,李晓澄,王子卓,杨超林,叶荫宇. 中国科学:数学, 2020(07)
- [4]几类非光滑优化问题的模型、算法及在点云匹配中的应用[D]. 马丽涛. 哈尔滨工业大学, 2020(01)
- [5]基于交替方向乘子法的模型预测控制方法研究[D]. 李玉. 安徽工业大学, 2020(06)
- [6]数据自适应的核学习理论研究及应用[D]. 刘方辉. 上海交通大学, 2019(06)
- [7]绝对值线性互补问题的区间算法[D]. 邓凉凉. 中国矿业大学, 2016(02)
- [8]解随机互补问题的CVaR-SP模型与DRO模型[D]. 许丽艳. 大连理工大学, 2015(07)
- [9]Wielandt不等式矩阵形式的一些推广[J]. 施红星,刘建忠. 内蒙古师范大学学报(自然科学汉文版), 2013(03)
- [10]带约束的Greub-Rheinboldt不等式[J]. 阮宏顺. 高校应用数学学报A辑, 2011(03)