python - Tensorflow 可以用于多元函数的全局最小化吗？

Question

我一直很好奇 TF 是否可以用于函数的全局优化。例如，它可以用来有效地找到 Lennard-Jones 势的基态吗？它会比现有的优化方法(例如 Basin-Hopping)更好还是更差？

我的部分研究涉及寻找大型多组分分子的基态。传统方法(BH 等)对此有好处，但也很慢。我研究了 TF，有些部分看起来足够强大，可以解决这个问题，尽管我有限的网络搜索似乎没有显示 TF 对这个问题的任何使用。

Answer 1

gradient descent执行训练神经网络只考虑函数的局部区域。因此不能保证它会收敛到全局最小值(这对于大多数机器学习算法来说实际上很好；考虑到所考虑空间的真正高维度，人们通常很乐意找到一个好的局部最小值而不必四处探索太多了)。

也就是说，当然可以使用 Tensorflow(或任何此类框架)为全局流域跳跃方案实现局部优化器，例如如下(简化算法):

1. 选择起点；
2. 使用本地优化器获取本地最小值；
3. 对该最小值的坐标应用一些扰动；
4. 从这个新位置开始，重新使用您的局部优化器来获得下一个局部最小值；
5. 保持最好的最小值，从 3 开始重复。

实际上，一些人正在目前正在尝试实现这个确切的方案，将 TF 与 scipy.optimize.basinhopping() 连接起来。 .当前的发展和讨论可以在这个 Github issue 中找到.