gekko - 使用 Gekko 优化，为什么我的模型构建器比我的求解器慢得多？

Question

我正在研究一个相当大的 MINLP，模型大小约为 270,000 个变量和方程 - 5,000 个二进制文件。将 Gekko 与 APOT 求解器结合使用，我可以在大约 868 秒(不到 15 分钟)内解决问题。但是，在 super 计算机上解决它以增加内存，大约需要 27 小时才能产生结果。

它似乎花费了所有的时间来创建模型。在阅读有关 APOT 的一些内容时，它提到当自由度小于 2,000(我的约为 3,500)时效果最佳。但是，我还读到它是 Gekko 唯一可用的混合整数求解器？

我很好奇是否是这种情况，或者 Gekko 中是否有针对该程序的其他选项？ (因为我更喜欢用 Python 编写代码)在应用程序中，我需要使用不同的上传的 excel 表多次运行此代码，因此如果有任何方法可以保存模型构造以供将来运行，这也可能会有所帮助。

Answer 1

这是一个令人印象深刻的 MINLP 问题规模。要确定如何加快预处理速度，您需要使用 DIAGLEVEL>=1 收集有关时间使用位置的其他信息。 .

m.options.DIAGLEVEL = 1

这会生成一份报告，说明每个步骤所需的时间。这是一个 example MINLP problem (see #10) .

from gekko import GEKKO
m = GEKKO() # Initialize gekko
m.options.SOLVER=1  # APOPT is an MINLP solver
m.options.DIAGLEVEL = 1

# optional solver settings with APOPT
m.solver_options = ['minlp_maximum_iterations 500', \
                    # minlp iterations with integer solution
                    'minlp_max_iter_with_int_sol 10', \
                    # treat minlp as nlp
                    'minlp_as_nlp 0', \
                    # nlp sub-problem max iterations
                    'nlp_maximum_iterations 50', \
                    # 1 = depth first, 2 = breadth first
                    'minlp_branch_method 1', \
                    # maximum deviation from whole number
                    'minlp_integer_tol 0.05', \
                    # covergence tolerance
                    'minlp_gap_tol 0.01']

# Initialize variables
x1 = m.Var(value=1,lb=1,ub=5)
x2 = m.Var(value=5,lb=1,ub=5)
# Integer constraints for x3 and x4
x3 = m.Var(value=5,lb=1,ub=5,integer=True)
x4 = m.Var(value=1,lb=1,ub=5,integer=True)
# Equations
m.Equation(x1*x2*x3*x4>=25)
m.Equation(x1**2+x2**2+x3**2+x4**2==40)
m.Obj(x1*x4*(x1+x2+x3)+x3) # Objective
m.solve(disp=True) # Solve

这会产生以下计时结果:

Timer #     1       0.03/       1 =       0.03 Total system time
Timer #     2       0.02/       1 =       0.02 Total solve time
Timer #     3       0.00/      42 =       0.00 Objective Calc: apm_p
Timer #     4       0.00/      29 =       0.00 Objective Grad: apm_g
Timer #     5       0.00/      42 =       0.00 Constraint Calc: apm_c
Timer #     6       0.00/       0 =       0.00 Sparsity: apm_s
Timer #     7       0.00/       0 =       0.00 1st Deriv #1: apm_a1
Timer #     8       0.00/      29 =       0.00 1st Deriv #2: apm_a2
Timer #     9       0.00/       1 =       0.00 Custom Init: apm_custom_init
Timer #    10       0.00/       1 =       0.00 Mode: apm_node_res::case 0
Timer #    11       0.00/       1 =       0.00 Mode: apm_node_res::case 1
Timer #    12       0.00/       1 =       0.00 Mode: apm_node_res::case 2
Timer #    13       0.00/       1 =       0.00 Mode: apm_node_res::case 3
Timer #    14       0.00/      89 =       0.00 Mode: apm_node_res::case 4
Timer #    15       0.00/      58 =       0.00 Mode: apm_node_res::case 5
Timer #    16       0.00/       0 =       0.00 Mode: apm_node_res::case 6
Timer #    17       0.00/      29 =       0.00 Base 1st Deriv: apm_jacobian
Timer #    18       0.00/      29 =       0.00 Base 1st Deriv: apm_condensed_jacobian
Timer #    19       0.00/       1 =       0.00 Non-zeros: apm_nnz
Timer #    20       0.00/       0 =       0.00 Count: Division by zero
Timer #    21       0.00/       0 =       0.00 Count: Argument of LOG10 negative
Timer #    22       0.00/       0 =       0.00 Count: Argument of LOG negative
Timer #    23       0.00/       0 =       0.00 Count: Argument of SQRT negative
Timer #    24       0.00/       0 =       0.00 Count: Argument of ASIN illegal
Timer #    25       0.00/       0 =       0.00 Count: Argument of ACOS illegal
Timer #    26       0.00/       1 =       0.00 Extract sparsity: apm_sparsity
Timer #    27       0.00/      13 =       0.00 Variable ordering: apm_var_order
Timer #    28       0.00/       1 =       0.00 Condensed sparsity
Timer #    29       0.00/       0 =       0.00 Hessian Non-zeros
Timer #    30       0.00/       1 =       0.00 Differentials
Timer #    31       0.00/       0 =       0.00 Hessian Calculation
Timer #    32       0.00/       0 =       0.00 Extract Hessian
Timer #    33       0.00/       1 =       0.00 Base 1st Deriv: apm_jac_order
Timer #    34       0.01/       1 =       0.01 Solver Setup
Timer #    35       0.00/       1 =       0.00 Solver Solution
Timer #    36       0.00/      53 =       0.00 Number of Variables
Timer #    37       0.00/      35 =       0.00 Number of Equations
Timer #    38       0.01/      14 =       0.00 File Read/Write
Timer #    39       0.00/       0 =       0.00 Dynamic Init A
Timer #    40       0.00/       0 =       0.00 Dynamic Init B
Timer #    41       0.00/       0 =       0.00 Dynamic Init C
Timer #    42       0.00/       1 =       0.00 Init: Read APM File
Timer #    43       0.00/       1 =       0.00 Init: Parse Constants
Timer #    44       0.00/       1 =       0.00 Init: Model Sizing
Timer #    45       0.00/       1 =       0.00 Init: Allocate Memory
Timer #    46       0.00/       1 =       0.00 Init: Parse Model
Timer #    47       0.00/       1 =       0.00 Init: Check for Duplicates
Timer #    48       0.00/       1 =       0.00 Init: Compile Equations
Timer #    49       0.00/       1 =       0.00 Init: Check Uninitialized
Timer #    50      -0.00/      13 =      -0.00 Evaluate Expression Once
Timer #    51       0.00/       0 =       0.00 Sensitivity Analysis: LU Factorization
Timer #    52       0.00/       0 =       0.00 Sensitivity Analysis: Gauss Elimination
Timer #    53       0.00/       0 =       0.00 Sensitivity Analysis: Total Time

APOPT 存储 NLP 运行之间的问题实例，因此在执行分支定界时可以快速使用不同的约束重新评估。 APOPT 使用热启动功能来快速评估受约束的 NLP 优化问题。但是，Gekko 用户无法使用此热启动功能。 Gekko 还提供其他求解器(可以为 MINLP 配置的一种)，但它们需要商业许可证。 COIN-OR 还提供免费的 MINLP 求解器，例如 Couenne 和 Bonmin，但尚不支持它们。您可以添加 feature request for Gekko如果您确定 APOT 预处理是问题所在，并且您想尝试另一个求解器。这是显示每次迭代时间的优化结果。

 ----------------------------------------------
 Steady State Optimization with APOPT Solver
 ----------------------------------------------
Iter:     1 I:  0 Tm:      0.00 NLPi:    7 Dpth:    0 Lvs:    3 Obj:  1.70E+01 Gap:       NaN
--Integer Solution:   1.75E+01 Lowest Leaf:   1.70E+01 Gap:   3.00E-02
Iter:     2 I:  0 Tm:      0.00 NLPi:    5 Dpth:    1 Lvs:    2 Obj:  1.75E+01 Gap:  3.00E-02
Iter:     3 I:  0 Tm:      0.00 NLPi:    6 Dpth:    1 Lvs:    2 Obj:  1.75E+01 Gap:  3.00E-02
--Integer Solution:   1.75E+01 Lowest Leaf:   1.70E+01 Gap:   3.00E-02
Iter:     4 I:  0 Tm:      0.00 NLPi:    6 Dpth:    2 Lvs:    1 Obj:  2.59E+01 Gap:  3.00E-02
Iter:     5 I:  0 Tm:      0.00 NLPi:    5 Dpth:    1 Lvs:    0 Obj:  2.15E+01 Gap:  3.00E-02
 No additional trial points, returning the best integer solution
 Successful solution

 ---------------------------------------------------
 Solver         :  APOPT (v1.0)
 Solution time  :   1.649999999790452E-002 sec
 Objective      :    17.5322673012512     
 Successful solution
 ---------------------------------------------------

以下是一些可以尝试诊断或改进解决时间的方法:

试试 IPOPT非整数解的求解器。用这个求解器完成求解还需要 27 小时吗？这可能表明 APOT 正在对解决方案进行预处理。

替换 gekko常量和参数在可能的情况下使用 Python 浮点数。这减少了模型处理时间。

使用 built-in gekko objects如 m.sum()与 Python sum功能。这通常会提高模型处理性能。

使用 m.options.REDUCE=3 进行自动模型缩减或使用 Intermediate variables 手动缩小模型.