最优化理论与方法约束变尺度法Newton法最突出的优点是收敛速度快，在这一点上其它算法无法比拟的。因此，建议凡是Hesse矩阵比较容易求出的问题，尽可能使用Newton法求解。但是，Newton法也有一个严重缺陷，就是每次迭代都要计算目标函数的Hesse矩阵和它的逆矩阵，当问题的维数较大时，计算量迅速增加，从而就抵消了Newton法的优点。为此，人们开始寻找一种算法既可以保持Newton法收敛速度快的优点，又可以摆脱关于Hesse矩阵的计算，这就是变尺度算法。变尺度法是一种非常好的方法，其中DFP算法和BFGS算法。可以说，直到目前为止，在不用Hesse矩阵的方法中是最好的算法。一、拟Newton法为了吸收Newton法收敛速度快的优点，同时避免Newton法每次迭代都要计算目标函数的Hesse矩阵和它的逆矩阵，人们提出了具有超线性收敛的拟Newton法。（一）拟Newton法的基本原理在Newton法中的基本迭代公式 ，其中 ，令 于是有
