1、第六章 最优化数学模型 1 最优化问题 11 最优化问题概念 12 最优化问题分类 13 最优化问题数学模型 2 经典最优化方法 21 无约束条件极值 22 等式约束条件极值 23 不等式约束条件极值 3 线性规划 31 线性规划 32 整数规划 4 最优化问题数值算法 41 直接搜索法 42 梯度法 43 罚函数法 5 多目标优化问题 51 多目标优化问题 52 单目标化解法 53 多重优化解法 54 目标关联函数解法 55 投资收益风险问题 第六章 最优化问题数学模型 1 最优化问题 11 最优化问题概念 （1）最优化问题 在工业、农业、交通运输、商业、国防、建筑、通信、政府机关等各部门各
2、 领域的实际工作中，我们经常会遇到求函数的极值或最大值最小值问题，这一 类问题我们称之为最优化问题。而求解最优化问题的数学方法被称为最优化方 法。它主要解决最优生产计划、最优分配、最佳设计、最优决策、最优管理等 求函数最大值最小值问题。 最优化问题的目的有两个：求出满足一定条件下，函数的极值或最大值 最小值；求出取得极值时变量的取值。 最优化问题所涉及的内容种类繁多，有的十分复杂，但是它们都有共同的 关键因素：变量，约束条件和目标函数。 （2）变量 变量是指最优化问题中所涉及的与约束条件和目标函数有关的待确定的量。 一般来说，它们都有一些限制条件（约束条件） ，与目标函数紧密关联。 设问题中涉
3、及的变量为 ；我们常常也用 表示。nx,21 ),(21nxX （3）约束条件 在最优化问题中，求目标函数的极值时，变量必须满足的限制称为约束条件。 例如，许多实际问题变量要求必须非负，这是一种限制；在研究电路优化设 计问题时，变量必须服从电路基本定律，这也是一种限制等等。在研究问题时， 这些限制我们必须用数学表达式准确地描述它们。 用数学语言描述约束条件一般来说有两种： 等式约束条件 miXgi ,21,0)( 不等式约束条件 rhi 或 ii ,)( 注：在最优化问题研究中，由于解的存在性十分复杂，一般来说，我们不考虑 不等式约束条件 或 。这两种约束条件最优化问题最优解的存0)(Xh)(
4、 在性较复杂。 （4）目标函数 在最优化问题中，与变量有关的待求其极值（或最大值最小值）的函数称为 目标函数。 目标函数常用 表示。当目标函数为某问题的效益函数),()21nxfXf 时，问题即为求极大值；当目标函数为某问题的费用函数时，问题即为求极小 值等等。 求极大值和极小值问题实际上没有原则上的区别，因为求 的极小值，)(Xf 也就是要求 的极大值，两者的最优值在同一点取到。)(Xf 12 最优化问题分类 最优化问题种类繁多，因而分类的方法也有许多。可以按变量的性质分类， 按有无约束条件分类，按目标函数的个数分类等等。 一般来说，变量可以分为确定性变量，随机变量和系统变量等等，相对应 的
5、最优化问题分别称为：普通最优化问题，统计最优化问题和系统最优化问题。 按有无约束条件分类：无约束最优化问题，有约束最优化问题。 按目标函数的个数分类：单目标最优化问题，多目标最优化问题。 按约束条件和目标函数是否是线性函数分类：线性最优化问题（线性规划） ， 非线性最优化问题（非线性规划） 。 按约束条件和目标函数是否是时间的函数分类：静态最优化问题和动态最 优化问题（动态规划） 。 按最优化问题求解方法分类： 解析法（间接法） 图 克 定 理库 恩极 大 值 原 理有 约 束 古 典 变 分 法古 典 微 分 法无 约 束 数值算法（直接法） 随 机 搜 索 法单 纯 形 法方 向 加 速
6、法步 长 加 速 法坐 标 轮 换 法多 维 搜 索 法 插 值 法黄 金 分 割 法斐 波 那 西 法一 维 搜 索 法 数值算法（梯度法） 复 形 法 法法化 有 约 束 为 无 约 束梯 度 投 影 法可 行 方 向 法有 约 束 梯 度 法 变 尺 度 法共 轭 梯 度 法拟 牛 顿 法最 速 下 降 法无 约 束 梯 度 法 SWIFTUM 多目标优化方法 目 标 关 联 函 数 法多 重 目 标 化 方 法单 目 标 化 方 法 网络优化方法 13 最优化问题的求解步骤和数学模型 （1）最优化问题的求解步骤 最优化问题的求解涉及到应用数学，计算机科学以及各专业领域等等，是 一个十分
7、复杂的问题，然而它却是需要我们重点关心的问题之一。怎样研究分 析求解这类问题呢？其中最关键的是建立数学模型和求解数学模型。一般来说， 应用最优化方法解决实际问题可分为四个步骤进行： 步骤 1：建立模型 提出最优化问题，变量是什么？约束条件有那些？目标函数是什么？建立最 优化问题数学模型：确定变量，建立目标函数，列出约束条件建立模型。 步骤 2：确定求解方法 分析模型，根据数学模型的性质，选择优化求解方法确定求解方法。 步骤 3：计算机求解 编程序（或使用数学计算软件） ，应用计算机求最优解计算机求解。 步骤 4：结果分析 对算法的可行性、收敛性、通用性、时效性、稳定性、灵敏性和误差等等作 出评
8、价结果分析。 （2）最优化问题数学模型 最优化问题的求解与其数学模型的类型密切相关，因而我们有必要对最优 化问题的数学模型有所掌握。一般来说，最优化问题的常见数学模型有以下几 种： 无约束最优化问题数学模型 由某实际问题设立变量，建立一个目标函数且无约束条件，这样的求函数 极值或最大值最小值问题，我们称为无约束最优化问题。其数学模型为： 目标函数),(min21nxf 例如：求一元函数 和二元函数 的极值。(fy),(yxfz 又例如：求函数 的极值和取3231212321321 464),( xxxxf 得极值的点。 有约束最优化问题数学模型 由某实际问题设立变量，建立一个目标函数和若干个约
9、束条件（等式或不 等式） ，这样的求函数极值或最大值最小值问题，我们称为有约束最优化问题。 其数学模型为： 目标函数),(min21nxf 约束条件mixgi ,210, 有约束最优化问题的例子：求函数 在约束条件条件nxxf3121),( 下的最大值和取得最大值的点。nixxxin ,2831 线性规划问题数学模型 由某实际问题设立变量，建立一个目标函数和若干个约束条件，目标函数 和约束条件都是变量的线性函数，而且变量是非负的，这样的求函数最大值最 小值问题，我们称为线性最优化问题，简称为线性规划问题。其标准数学模型 为： 目标函数nn xcxcxf 2121),(min 约束条件0,i i
10、imi mbaa 矩阵形式： 目标函数XCfT)(n 约束条件0BA 其中 ， ，TnxX),(21Tnc),(21TmbB),(21 mnmnaaA 212 在线性规划问题中，关于约束条件我们必须注意以下几个问题。 注 1：非负约束条件 ，一般来说这是实际问题要求的需要。),1(0ixi 如果约束条件为 ，我们作变量替换 ；如果约束条件为iid0iiidxz ，我们作变量替换 。iidx0iiixz 注 2：在线性规划的标准数学模型中，约束条件为等式。 如果约束条件不是等式，我们引入松驰变量，化不等式约束条件为等式约 束条件。 情况 1：若约束条件为 ，引入松驰变量inimii bxaxa2
11、1 0iiiiiz 原约束条件变为 。iinimii zxx21 情况 2：若约束条件为 ，引入松驰变量iiii baa 0)(21nimiiii xxbz 原约束条件变为 iiniii zx21 在其它最优化问题中，我们也常常采取上述方法化不等式约束条件为等式 约束条件。 实际问题中，我们经常遇到两类特殊的线性规划问题。一类是：所求变量 要求是非负整数，称为整数规划问题；另一类是所求变量要求只取 或 ，称为01 0-1 规划问题。 例如：整数规划问题 213minxz 。 且 为 整 数0,85421xts 又例如：0-1 规划问题 32153maxxz 。 10,644. 321321 或
12、xts 非线性规划问题数学模型 由某实际问题设立变量，建立一个目标函数和若干个约束条件，如果目标 函数或约束条件表达式中有变量的非线性函数，那么，这样的求函数最大值最 小值问题，我们称为非线性规划最优化问题，简称为非线性规划问题。其数学 模型为： 目标函数),(min21nxf 约束条件mixgi ,210, 其中目标函数或约束条件中有变量的非线性函数。 例如：非线性规划问题 yxyf2)1(,min 。0),(21g 上述最优化问题中，目标函数是非线性函数，故称为非线性规划问题。 前面介绍的四种最优化数学模型都只有一个目标函数，称为单目标最优化 问题，简称为最优化问题。 多目标最优化问题数学
13、模型 由某实际问题设立变量，建立两个或多个目标函数和若干个约束条件，且 目标函数或约束条件是变量的函数，这样的求函数最大值最小值问题，我们称 为多目标最优化问题。其数学模型为： 目标函数sixfni ,21),(mn21 约束条件mxgi 0, 上述模型中有 个目标函数， 个等式约束条件。s 例如：“生产商如何使得产值最大而且消耗资源最少问题” “投资商如何使得 投资收益最大而且风险最小问题”等都是多目标最优化问题。 2 经典最优化方法 经典最优化方法包括无约束条件极值问题和等式约束条件极值问题两种，不 等式约束条件极值问题可以化为等式约束条件极值问题。 经典的极值理论：首先，根据可微函数取极
14、值的必要条件确定可能极值点； 其次，根据函数取极值的充分条件判断是否取极值？是极大值？还是极小值？ 这种方法已经几百年的历史了。 21 无约束条件极值 设 元函数 ，求 的极值和取得极值的点。这是n),()21nxfXf)(Xf 一个无约束条件极值问题，经典的极值理论如下。 定理 1（极值必要条件）：设 元函数 具有偏导数，则),()21nxff 在 处取得极值的必要条件为：)(f* 。nixfXi ,210|* 定理在此不给出证明，读者可自己参看有关资料。 注 1：对于一元函数上述定理当然成立，只是偏导数应为导数； 注 2：定理只是在偏导数存在的前提下的必要条件。如果函数在某一点偏导数 不存
15、在，那在这一点处仍然可能取得极值； 注 3：如果函数在某一点偏导数存在，且偏导数都等于零，那么函数在这一点 处也不一定取得极值。 例如，函数 在点 处偏导数不存在，但在这一点处函23),(yxf)0,( 数仍然取得极小值零。函数 在点 处偏导数存在，且偏导数53),(f ),( 都等于零，但在这一点处函数不取极值。 定理 1 的作用在于，求出函数的可能极值点，然后，我们再研究这些点是 否取得极值。 对于许多实际问题来说，函数一定能够取得极大值或极小值，而函数的可 能极值点（满足必要条件的点）又只有一点，则这一点当然是函数取得极大值 或极小值的点。 对于一般函数而言，我们怎样判定函数在某点是否取
16、极值？是极大值？还 是极小值？我们有下面的极值的充分条件定理。 定理 2（极值充分条件）：设 元函数 具有二阶偏导数，n),()21nxfXf 则 在 处取得极值的充分条件为：)(Xf* （1） ；nixfXi ,320|* （2）黑塞矩阵 在 处正定或负定； 221222121nxn nxfff fff xx *X （3）黑塞矩阵在 处正定时，函数取极小值；负定时，函数取极大*X 值。 本章内容简要讲解理论，注重实际应用，对于许多经典的定理都不进行证 明，读者可自己参看有关资料。 例 1：求函数 的极值。321232132146),( xxxxf 解：（1）根据极值存在的必要条件，确定可能取
17、得极值的点： ， ，214xf 312xf 238xf 令 ，解得 。0321ff )0,(),(321x （2) 根据极值存在的充分条件，确定 是否是极值点：,321 计算 ， ， ；421xf122xf83xf ， ， ；21xf031xf23xf 函数的黑塞矩阵为 82014),(2f 因为 ， ， ；04412032 所以黑塞矩阵负定， 故函数在 处取得极大值 。)0,(),(321x),0(f 22 等式约束条件极值 下面我们研究的是有若干个等式约束条件下，一个目标函数的极值问题， 其数学模型为： 目标函数),(min21nxf 约束条件migtsi ,210. 拉格朗日（Lagra
18、nge) 乘数法 ： （1）令 ),(),( 21121 niinxgxfL 称为上述问题的拉格朗日乘数函数，称 为拉格朗日乘数。i （2）设 和 均可微，则得到方程组),(21nxf ),(21nixg nixgLjxniimijijj ,210),( ,21 （3）若 是上述方程组的解，则点 可能,2121mnx ),(21nx 为该问题的最优点。 拉格朗日（Lagrange) 乘数法的本质是：将求有约束条件极值问题转化为求 无条件极值问题；所求得的点，即是取得极值的必要条件点。 拉格朗日乘数法没有解决极值的存在性问题，但是，如果拉格朗日乘数函数 具有二阶连续偏导数，我们也可以应用黑塞矩阵
19、来判定函数是否取得极值。 在具体问题中，点 是否为最优点通常可由问题的实际意义决定。),(21nx 例 2：求表面积为定值 ，而体积为最大的长方体的体积。2a 解：设长方体的三棱长为 ，体积为 ；zyx,V 建立数学模型如下： m0,2.zyxats 构造拉格朗日乘数函数 ，则有)2(),( axzyxL0)(2yxzLzyyzx 解得 ， 为所求。ayx636maV 23 不等式约束条件极值 对于不等式约束条件极值问题： 目标函数),(in21nxf 约束条件migtsi ,210. 我们有与拉格朗日乘数法密切相关的方法库恩图克定理。 定理 3（库恩图克定理）：对于上述不等式约束条件极值问题
20、，设 和 均可微，令 ),(21nxf ),(21nix ,21121 nimingfL 假设 存在，则在最优点 处，必满足下述条件：i*X),(21nx （1） ；mijijj jxgfx1 ,0 （2） ；migni ,21),(21 （3） ；xi 0 （4） 。0i 根据库恩图克定理我们可以求解许多不等式约束条件极值问题，值得注意 的是应用库恩图克定理求解不等式约束条件极值问题，定理并没有解决最优 解的存在性问题，因此，我们必须另行判断。 例 3：求解最优化问题（最优解存在） yxyf2)1(,min 0),(21g 解：构造函数 ，)()2()1(,(12 yyxxzyL 根据库恩图
21、克定理则有 0,)2(0211yxL 解得： ；所求最优解为 ，最优值为 。,0,121yx )0,1(,yx0 3 线性规划 31 线性规划 设线性规划标准数学模型为： 目标函数nn xcxcxf 2121),(min 约束条件imbaatsi inimi ,10. 矩阵形式： 目标函数XCfT)(n 约束条件0BA 其中 ， ，TnxX),(21Tnc),(21TmbB),(21 线性规划问题的求解有一整套理论体系，一般来说，应用单纯形法求解。此 方法尽管比较复杂，然而在计算机上实现并不困难。解线性规划问题的单纯形 法已在许多数学计算软件中实现，我们求解线性规划问题可根据需要，应用数 学计
22、算软件求解即可。在此，我们不系统研究其理论，只是简单介绍线性规划 的穷举法和单纯形法的基本思想。 3.2 线性规划的穷举法 （1）穷举法基本原理和步骤 步骤 1：将线性规划问题化成矩阵的标准形式，设系数矩阵的秩 ，则mAR)( 对应线性方程组的基础解系自由变量的个数为 个。mn 步骤 2：穷举法求解：令 ，解得对应线性方程组一组解0)(21iii xx 为 ；对应目标函数值为 。),(21nx inff),(21 从 个变量 中选 个作为自由变量，令它们的值为 0，可得到m 组解。mnC 步骤 3：确定最优解：如果最优解存在，则上述求解得到的对应 个目mnC 标函数值中，最小者（或最大者）即为
23、所求最小（或最大）最优值，对应的解为 最优解。 步骤 4：证明解为最优解： 将最优解对应的自由变量看成参数 ；解对应线性方程组得 )(21,mntt 。ibtbxmniiii ,)(210 将对应线性方程组解 nitbtxmniiii ,21,)(210 代入目标函数得： 。)(210 mndtdf 如果 ，则所求为最小值最优解；否则，线性规划问题无nidi ,2, 最小值最优解。 如果 ，则所求为最大值最优解；否则，线性规划问题无ii ,1,0 最大值最优解。 例 1：目标函数： 321)(maxxXf5,4321,0.5213ixtsi 解：约束条件的增广矩阵为： ， ； 101A)(AR
24、 令 ，解得 ；21x 5)(,45,(XfX 令 ，无解；3 令 ，解得 ，不满足非负条件，舍去；041x)1,05(X 令 ，解得 ；5 7(24Xf 令 ，解得 ；32x 0),( 令 ，解得 ，不满足非负条件，舍去；04501X 令 ，无解；52x 令 43，解得 ；235)(,2(Xf 令 ，解得 ，不满足非负条件，舍去；05x0345X 令 ，解得 ；4 19)(,(f 所以 ，最优解为 。19)(maf ,2 证明：令 解得 sxt54, 目标函数 ； 5,1,02321ixsti stXf19)( 因为 非负，所以 ，故最优解存在。t54 )(maxf （2）单纯形法基本原理和
25、步骤 将线性规划问题化成矩阵的标准形式，设系数矩阵的秩 ，则对应mAR)( 线性方程组的基础解系的个数为 个，即有 个自由参数变量。nn 选取 个非基变量（自由参数变量）,不妨假设为 ；mn njx,1, 解得线性规划问题的典式 njxmixfixjnmjjjjiii ,210)(,1 定理 1：如果线性规划问题的上述典式中所有 ；njj ,1,0 则 为最优解。)0,(21 mX 定理 2：如果线性规划问题的上述典式中存在某个 ，且对应0km ；则线性规划问题无最优解。mikmi ,1,0)( 由定理 1 和定理 2 知，如果我们选择适当的 个非基变量，就可以根据n 所求得的典式判断最优解的
26、存在与否，从而求解该线性规划问题。 单纯形法的思想是：选择适当的基变换（进基和退基） ，不断地变换典式， 使得典式中目标函数值不断下降，从而求得最优解。其核心为如何选择进基和 退基。 进基规则和退基规则 进基规则正检验数最小下标规则，即选取 ，由此确0|minjs 定 为进基。sx 退基规则：选取这样的下标 （ 表示第 个基变量的下标）rJii 0|minisi 0,|minisisrJ 由此确定 离基。rJx 单纯形法的基本步骤： 步骤 1：化线性规划问题为标准形式。 步骤 2：确定基变量，求得基本可行解和典式； 是否满足最优解定理或最优解不存在定理的条件？判断最优解的情况。 步骤 3：根据
27、进基规则和退基规则，选择进基和退基，进行基变换，求得对应 典 式。重复进行基变换，直到求出最优解或判断出无最优解为止。 例 2：解线性规划问题 21minxf5,4321,06.3ixxtsi 解：（1）约束条件的增广矩阵为： ， ； 1026A3)(AR 所以非基变量个数为两个。 （2）选取 作为非基变量， 作为基变量，解得典式为21,x543,x 5,1,02min651423xxfx 不满足最优解定理和最优解不存在定理的条件，故必须进行基变换。 （3）进行基变换 选取进基： ，0,21 根据 得 为进基。|minjs1x 选取退基： ，6,15 根据 ， 得 为离基。0|inisi0,|
28、minisisrJ5x 进行基变换，求新基的典式： 5,1,037min62147322515ixxfxxi 判断：不满足最优解定理和最优解不存在定理的条件，故继续进行基变换。 （4）继续进行基变换 选取进基： ，根据 得 为进基。320|minjs2x 选取退基： ，4921,8in 根据 ， 得 为离基。0|iisi0,|inisisrJ3x 进行基变换，求新基的典式： 5,1,0423min4123935135ixxfxxi 满足最优解定理的条件，根据定理最优解为 。4in),2,491(fX 32 整数规划 设纯整数线性规划数学模型为： 目标函数nn xcxcxf 2121),(min
29、 约束条件imbaatsii inim,1,0. 为 整 数 这一类问题与一般线性规划比较起来，似乎是变简单了，但实际上恰恰相反， 由于解集是一些离散的整数点集，使得单纯形法失去了应用的基础，求解变得 困难而复杂。整数线性规划目前还缺乏统一的解法，这里只介绍分枝定界法， 它是目前求解纯整数线性规划和混合整数线性规划最常用的方法，计算机求解 整数线性规划的大多数程序也是以它为基础的。 分枝定界法：考虑上述纯整数线性规划问题， （1）解对应线性规划问题 目标函数nn xcxcxf 2121),(min 约束条件imbaatsi inimi ,10. 若无最优解，则原纯整数线性规划问题无最优解； 若
30、有最优解，最优点 ，目标函数最优值 。),(21nx ),(210nxfz 若最优点 全为整数，则为原纯整数线性规划问题的最优解；),(21nx 若最优点 不全为整数，则进行下一步。 （2）定界和分枝 定界： 0210),(minmzxfMn 其中 取原纯整数线性规划问题中，满足约束条件的某一整数可行解所对 应的目标函数值。原纯整数线性规划问题的最优解必须满足定界条件。 分枝：选取 中一个不为整数所对应的 分枝，),(21nx kx 1Rnix mbaai inimik ,21021 2 ixxi inimi k ,21 和 称为对应线性规划问题的两枝，也是两个新线性规划问题的约束条1R2 件
31、。显然，原纯整数线性规划问题的最优解满足 或 。1R2 （3）对 和 进行剪枝和分枝12 解 对应的线性规划问题，对其进行剪枝和分枝：R 若无最优解，则原纯整数线性规划问题在 内无最优解。不需要对该区域1R 继续讨论剪枝。 若有最优解，最优点 ，目标函数的最优值 。),(21nx ),(21nxfz 若 ，则原纯整数线性规划问题在 内无最优解。021),(Mxfzn 1R 不需要对该区域继续讨论剪枝。 若最优点 全为整数，则可能为原纯整数线性规划问题的最优),(21n 解，定界：记 ，则 ，本0,xf 0211),(minmxfn 分枝求解结束。 若最优点 不全为整数，对 继续进行分枝。),(
32、21nx 1R 完全类似，解 对应线性规划问题，对其进行剪枝和分枝。R 依此类推，对所有分枝进行求解，剪枝，分枝，定界；直至求得最优解。 （4）最优解的确定 若某 ，则为最优解，求解结束。0mMk 若所有分枝求解结束，则最后的上界 即为最优解。kM 例 3：应用分枝定界法，求解整数线性规划问题 213minxz 且 为 整 数0,85421xts 解：设原整数线性规划问题目标函数的最优值为 ，*z （1）求解线性规划问题： 213minxz 0,2853421xts 得最优解为 ； 。82x51.7inz 记约束区域 为 。 0,534221xR （2）对 进行分枝：选取最优解中不是整数的变量
33、，例如 ，将 分成两个子R 1xR 区域 。 ， 21, 0,285341.9:12x0,285342.:11xR （3）定界：确定最优值 的上下界。由（1）中求得的最优值知 ；而*z 51.7*z 的上界可由 内的任意一个可行解确定，例如， 即为一个可*zR 4,721 行解。故 。从而， 。1995.7 （4）在 内求最优解，得 ； 。3.,21x39.8minz （5）在 内求最优解，得 ； 。2 18627 （6）因为 内最优解不全是整数，因而必须继续对 分枝：1R1R 0,285342.9:1121xx0,285342.9:1121xxR （7）显然 内无解，剪枝。2R 在 内求最优
34、解，得 ； ；为整数可行解。1R4,921x21minz 但因 ，而 ，故剪枝。*5.7z （8）因为 内最优解不全是整数，因而必须继续对 分枝：2 2R 0,2853421.:12xxR0,2853421.:1xx （9）显然 内无解，剪枝。2 在 内求最优解，得 ； 。21R4,7.621xx7.8minz （10）因为 内最优解不全是整数，因而必须继续对 分枝：21 21R 0,2853421.:121xxR0,2853421.6:121xxR （11）在 内求最优解，得 ； 。2R5.,621x.9minz 因 大于 的上界，故剪枝。5.9minz*z （12）在 内求最优解，得 ；
35、。21 4,721 1i 所求原整数规划问题的最优解为： ； 。x9nz 4 最优化问题数值算法 最优化问题的数值算法很多，常用的算法多为搜索法，本节只介绍搜索法 的基本思想、无约束最优化问题的最速下降法（梯度法）和有约束最优化问题 的罚函数法。 41 搜索算法 考虑无约束最优化问题： ),(min21nxf 我们已经讨论了这类问题的最优解条件，这必须用到函数的解析性质。我 们的方法是，先利用必要条件求出平稳点，再应用充分条件判断是否是极值点。 但是，我们必须求解一个 个变量 个方程的方程组，并且常常是非线性的。n 这只有在特殊的情况下，才能求出它的精确解。在一般情况下，都不能用解析 法求得精
36、确解。更何况许多实际问题中，函数的解析表达式很难得到。因此， 我们必须寻求一些切合实际问题的行之有效的数值解法。搜索算法就是我们常 用的方法。 （1）搜索算法的基本思想：假定目标函数 极小值问题。首先，确定)(Xf 目标函数 的初始点 ；然后，按照一定规则产生一个点列 ，这种规)(Xf0 kX 则称为算法；规则必须满足（1）点列 收敛；（2）点列 收敛到目标k 函数 的极小值点。)(f （2）搜索算法的基本步骤： 选定初始点 （越接近最优点越好） ，允许误差 ，令 。0X0k 假定已得非最优点 ，则选取一个搜索方向 ，满足：k kS 目标函数 下降，或 。)(f 0)(kXgradf 选定搜索
37、步长 ， ，满足：0kk1 。)()()(1 kkfSfXf 判断 是否是最优点或是满足要求的近似解。1k 假定给定精度要求为 ，常用确定求近似解搜索结束的方法有：0 梯度模确定法；|)(|1kgradf 目标函数差值绝对误差法；|X 相邻搜索点绝对误差法。|1kk 如果 满足给定精度要求，则搜索完成，近似最优点为 ；1*kX 如果 不满足给定精度要求，令 返回（2）继续搜索。1kX1k 注意 1：我们的搜索算法一般得到的都是局部最优解。 注意 2：确定求近似解搜索结束的方法还有 目标函数差值相对误差法；|)(|1kXf 相邻搜索点相对误差法。|1kX （3）搜索算法的关键因素：从搜索算法的基
38、本步骤中，我们知道，搜索算 法的关键因素为：一是搜索方向，二是搜索步长。 搜索方向的选择，一般考虑既要使它尽可能的指向极小值点，又要不至于 花费太多的计算量。 搜索步长的选择，既要确保目标函数的下降性质，又要考虑近似解的精度 要求，还要考虑算法的计算量，问题十分复杂。常用方法有，固定步长法，最 优步长法和变步长法。 固定步长法（简单算法）是选取 为固定值。方法简单，但是有时不0k 能保证目标函数的下降性质。 最优步长法（一维搜索算法）是选取 使得，k )(min)( kkk SXfSXf 这是一个关于单变量 的函数求极小值问题，这样确定的步长称为最优步 长。 变步长法（可接受点算法）是任意选取
39、 ，只要使得 即可。k )()(1kkXff 这种选取步长的方法，确保了目标函数的下降性质，尽管每次选取的步长不是 最 优的，但实践证明，方法能达到更好的数值效果。 总之，当搜索方向确定以后，步长就是决定最优化算法好坏的重要因素， 因此，我们必须特别注重步长的选取问题。 （4）搜索算法的收敛性：搜索算法的收敛性是指，由某算法得到的点列 能够在有限步骤内收敛到目标函数 的最优点或能够在有限步骤内达kX)(Xf 到满足精度要求的目标函数 的最优点的近似值。显然，只有具有收敛性质)(f 的算法才有意义。 搜索算法的收敛速度：作为一个好的算法，还必须要求它以较快的速度收 敛于最优解。 阶收敛定义：对于
40、收敛于最优解 的序列 ，若存在与 无关的数*Xkk 和 ，当 从某个 开始时，有01k0 成立，|*|Xkk 则称序列 收敛的阶为 ，或称 阶收敛。 当 时，称迭代序列 为线性收敛；当 时，称迭代序列1k 21 为超线性收敛；当 时，称迭代序列 为二阶收敛。kX2kX 一般来说，线性收敛是比较慢的，而二阶收敛则是很快的，超线性收敛介 于二者之间。如果一个算法具有超线性以上的收敛速度，我们就认为是一个好 的算法了。 42 无约束最优化问题的梯度法 无约束最优化问题 ),(min21nxf 的计算方法很多。无约束最优化问题的计算方法分为两大类：一类是解析法， 包括经典最优化方法，最速下降法（梯度法
41、） ，共轭梯度法，牛顿法和变尺度法 等。另一类是直接法，包括坐标轮换法，步长加速法，方向加速法和单纯形法 等。 所谓解析法就是在方法的计算过程中，应用到了函数的解析性质（可导性 质等） ；所谓直接法就是在方法的计算过程中，仅仅涉及目标函数值的计算，而 不涉及函数导数等解析性质。我们在这里只介绍最速下降法（梯度法） 。 最速下降法理论根据：早在 1847 年，法国著名数学家 Cauchy 就曾提出，从 任意给定点出发，函数沿哪个方向下降最快的问题。这个问题已从理论上解决 了，即沿着函数在该点的负梯度方向前进时，函数下降最快。这就是最速下降 法的理论根据。 最速下降法的搜索步骤： 步骤 1：选定初
42、始点 （越接近最优点越好） ，允许误差 ，令 。0X0k 步骤 2：假定已得非最优点 ，计算梯度 ，k )(kXgradf 选取搜索方向 )(kkfS 步骤 3：选定搜索步长 ， ，满足：0SX1 。)(min)(kkkfXf 步骤 4：判断 是否是最优点或是满足要求的近似解。1 根据精度要求，检验是否满足收敛性判断准则： 或 或 |)(|1kgradf |)()(|1kkXff |1kkX 如果 满足给定精度要求，则搜索完成，近似最优点为 ；X 1*k 如果 不满足给定精度要求，令 返回（2）继续搜索。1k k 例 1：应用最速下降法求解 。215)(minxXf 解：（1）选定初始点 ，允
43、许误差 ，置2,0.0:k 收敛判断准则 。|)()(|1kkXff （2）计算梯度 ，选取搜索方向kgrad )(kkXgradfS ，kXkxXrf|50,2)(1 kx|50,221 第一点搜索计算： ，,4)(0rf ,4 （3）选定搜索步长 ， ，满足：kkkkS1)(min)(0kXfSXf 第一点搜索计算：求最优步长 2200 )10(5)4()(i f 解得 。2. （4）判断 是否是最优点或是满足要求的近似解。1kX 第一点搜索计算： )0,9.1( 验证收敛判断准则 ，不满足，继续搜索。02.31.| Xff 依次类推，直到搜索到最优解或满足精度要求为止。 搜索计算列表如下
44、： 搜索步长 k搜索方向 kS 搜索点 kX函数值 )(kXf)2,(010402.1,40,9.169.35.1,8.31S)(2X2 为最优解0, 43 罚函数法 对于约束最优化问题也有许多种方法，本段只介绍把约束最优化问题转化为 无约束最优化问题的一种求解方法罚函数法。分为等式约束最优化问题和 不等式约束最优化问题两种情况讨论。 （1） 等式约束最优化问题的罚函数法 首先，考虑等式约束最优化问题 )(minXf migtsi ,210. 假定上述等式约束最优化问题的最优解存在。 若记 ，,)(|ni RXiXD 构造辅助函数 罚函数miigMfT12)(, 其中 （罚因子）是一个充分大的
45、正数。0M 定理 1：若对于某确定数 ，无约束最优化问题0 miiXgfXT12)()(,(min 的最优解 ，则 必为原等式约束最优化问题的最优解。D* 证明：设无约束最优化问题 miiXgMfT12)()(,(in 的最优解 ，则有： X*Xgi ,0) 而当 时，D(),(fMT 所以 *)(),min)i fTf 即 为原等式约束最优化问题的最优解。*X 定理 2：设 和 均为连续函数，)(f miXgi ,21,0)( 若对于任意正数 ，无约束最优化问题 iiXgMfT12)()(,(min 的最优解 ，且 ，DX)*l 则 为原等式约束最优化问题的最优解。(liM 定理 2 的证明请参看有关参考资料。 根据定理 1 和定理 2，我们就可以将通过构造罚函数的方法化为无约束最 优化问题求解，这种方法称为罚函数法。 罚函数法的步骤：（等式约束最优化问题罚函数法） 步骤 1：构造罚函数 ，miiXgMfXT12)()(,( 选定 ，允许误差 ，令 ；01M0:k 步骤 2：求无约束问题 的最优解 ；),(ink*k 步骤 3：判断 是否是最优点或是满足要求的近似解。*kX 根据精度要求，
