惩罚函数法有约束最优化： 可行域 定义：局部极小点，局部严格极小点一阶条件（必要条件） 二阶条件（必要条件 ） 惩罚函数法 可行方向法，二次规划1. 外点罚函数法 1.1 罚函数概念 a 对于等式约束： 对于线性约束可 消元处理 很大的正数 第2项很大转化为 罚回来 c. 一般情况： b. 不等式约束过大，计算困难 太小，远离约束问题的最优解 收敛于 称为SUMT 方法 序列无约束极小化方法 基本步骤：1.3. 外点法收敛性定理3： 的最优解。 定理2：2. 内点罚函数法 2.1 思想：从内点出发，保持在可行域内部进行搜索。 只适用于不等式约束问题 两种形式：原始问题的解 2.2 r 如何取值？ r 太大，问题的解不精确 例题： 解得： 计算步骤：2.3. 收敛性 定理：问题 外点法 内点法 应用序列无约束极小化方法，简单 增大 成为病态矩阵 无法求解其中： ， Lagrange 函数 罚函数 3. 乘子法（Hestenes, Powell）提出 3.1. 基本思想： 等式约束问题：的局部最优解，且满足二阶充分条件， 的局部最优解的二阶充分条件 ，衡量快慢3.2 计算步骤（等式约束）
