第七章 一维搜索方法

本章讨论的是一维问题的迭代求解方法，这些方法统称为一维搜索法。

黄金分割法要求某单值一元函数 在闭区间 上是单峰的，即存在唯一的局部最小点。
该方法的思路为挑选 中的点，计算对应的函数值，通过不断缩小极小点所在的求见，大刀片足够的精度。
很显然每次都要计算两个目标函数值，以保证目标区间的压缩。

在黄金分割法中， 始终不变，如果允许参数 中途改变，则产生斐波那契数列法。该方法选择中间点的的原则如下：

高中学过的一阶导求法，一阶导大于0在左边，一阶导小于0在右边。
压缩比为

牛顿法假定函数连续二阶可微，这样可构建一个经过点 的二次函数，该函数在 的一阶和二阶导数分别为 和 ：

从迭代公式看出，牛顿法需要的是目标函数 的二阶导数：

上述方法均需要提供目标函数极小点所在的初始区间。而这一初始区间的寻找需要划界法确定。
本质就是不断搜索，找三个点比一比，然后迭代。因为假定函数是单峰的，不需要考虑全局问题。

多维优化问题的迭代球阀，通常每次迭代都包括一维搜索。