最速下降法求解线性代数方程组(共5页).doc

精选优质文档-倾情为你奉上最速下降法求解线性代数方程组要求：对于给定的系数矩阵、右端项和初值，可以求解线性代数方程组一、最速下降法数学理论在基本迭代公式中，每次迭代搜索方向取为目标函数的负梯度方向，即，而每次迭代的步长取为最优步长，由此确定的算法称为最速下降法。为了求解问题，假定我们已经迭代了次，获得了第个迭代点。现在从出发，可选择的下降方法很多，一个非常自然的想法是沿最速下降方向（即负梯度方向)进行搜索应该是有利的，至少在邻近的范围内是这样。因此，去搜索方向为.为了使目标函数在搜索方向上获得最多的下降，沿进行一维搜索，由此得到第个跌带点，即，其中步长因子按下式确定， . （1）显然，令就可以得到一个点列,其中是初始点，由计算者任意选定。当满足一定的条件时，由式（1）所产生的点列必收敛于的极小点。二、最速下降法的基本思想和迭代步骤已知目标函数及其梯度，终止限和.（1） 选定初始点，计算；置.（2） 作直线搜索：；计算.