1、带约束的二次规划刘鹏线性规划与非线性规划 线性规划 (Linear Programming) 在 一组线性约束定义的区域上,对一个线性函数进行极小化(或者极大化)的问题,其数学模型可以表示为 满足约束条件的点称可行点,可行点集合构成可行域线性规划与非线性规划 非线性规划 (Nonlinear Programming) 非线性规划的 数学模型 可以表示 为 在目标函数或者约束函数中至少有一个函数是非线性的 当非线性规划问题的可行域为整个实数域时,称为无约束优化问题 ,否则 称为约束优化问题凸集、凸函数与凸优化 凸集:如果 某个集合中任意两点连起来的直线都属于该集 合,则称其为凸集,否则为非凸集非
2、凸集 凸集凸集、凸函数与凸优化 凸集的数学定义: 是凸集 当且仅当成立 凸集、凸函数与凸优化 线性约束的可行集是凸集证明: 凸集、凸函数与凸优化 凸函数 凸规划目标函数 为凸函数,可行集为 凸集 的规划问题Karush-Kuhn-Tucker条件 对于非线性规划问题 引入 Lagrange函数: 其关于 x的梯度为:Karush-Kuhn-Tucker条件 KKT条件可以表述为 这三行分别表示可行性条件、目标函数梯度的线性表示条件以及互补松弛条件 对于线性不等式约束的非线性规划问题, KKT条件是局部极小值点的必要条件 对于凸规划问题, KKT条件是全局最优解的充要条件 二次规划 二次规划是非线性规划的一种特殊形式,其数学模型为: 约束条件为线性约束,故其可行集为凸集 目标函数为非线性函数,当 Hesse矩阵 Q是非负定矩阵时,目标函数为凸函数,此时优化问题为凸二次规划问题