algorithm - 选择单纯形构造的初始起点会影响 Nelder-Mead 算法的结果吗？

Question

我想知道初始顶点 x0 的选择以及用于计算其他顶点的步骤如何影响 Nelder-Mead 算法给出的最终结果。这是否容易在 x0 附近产生局部最优？

Answer 1

是的，起点 x0 的选择会影响最小化的结果(这并不是 Nelder-Mead 方法独有的)。陷入局部最小值的可能性非常大。

重要的是要认识到该方法使用单纯形(在 n 个变量的情况下为 n+1 个点)。如果单纯形与景观特征的大小相比较小，则轨迹将呈梯度状，接近最近的局部最小值。如果它很大，将会对函数的景观进行更全面的调查。

例如，此算法的 SciPy 实现选择初始单纯形 as follows :第k个顶点是x0，其第k个坐标增加5%(除非坐标为0，在这种情况下它被任意设置为0.00025)。如果您对应该探索的参数区域有更好的了解，请尝试自己选择 initial_simplex，以便它的大小与正在搜索的范围的大小相当。