因此,方程(6.132)可以表达成:
(6.135)
备注:
1.方程(6.124)和(6.132)因为近似于函数f的海森矩阵的逆,被称为逆校正公式;
2.由于近似海森矩阵本身被视为直接校正公式,所以推导出一个关于直接校正公式的族是可能的,为此,我们对此表示拟牛顿条件为[见方程(6.112)]
gi =[ Ai ]di (6.136)
方程(6.124)和(6.132)中使用的程序可以遵循使用,利用[ Ai ],di和gi分别代替[ Bi ],gi和di ,这个导致秩2校正公式(类似于方程(6.132))被称为Broydon-Fletcher-Goldfarb-Shanno(BFGS)公式[6.22-6.25]:
(6.137)
在实际计算中,方程(6.137)容易被写成:
(6.138)
3.DFP和BFGS公式属于秩2校正的族,该族被称为校正公式[6.18]的正族,其中校正公式[6.18]可以表示为校正海森矩阵的逆如下所示:
(6.139)
其中
(6.140)
和 是定值,方程(6.18)已经证实了如果方程[ 论文网Bi ]对称正定,那么方程(6.139)中的[ Bi+1]保持对称和正定。对于方程(6.139)中的 和 ,不同的选值对应不同的算法。例如:当 ,方程(6.139)变成了DFP公式(6.132),当 ,方程(6.139)演变成BFGS公式(6.138);
4.BFGS方法在[6.17]的X*处具有超线性收敛;
5.数值的经验表明,与DFP相比,BFGS方法是最好的约束变量的度量方法,在寻找最优解X*时,它很少受到错误的影响;
6.在本节中所讨论的方法也被称为割线方法。 方程(6.112)和(6.115)可以看作割线方程(见5.12节)
在下面的章节中,DFP和BFGS迭代法会被详细地描述。