testing - 如何在 golang 基准测试中正确启动时间和停止时间？

Question

我写了一个基准来测试两个斐波那契数生成器的速度，源代码是here on github .

func BenchmarkFib(b *testing.B) {
    fibFuncs := []struct {
        name string
        f    func(int) int
    }{
        {"recursive", fibRecu},
        {"iterative", fibIter},
    }
    for _, fibFunc := range fibFuncs {
        // calculate k'th Fibonacci number
        for k := 10; k < 1001; k *= 10 {
            b.Run(fmt.Sprintf("%s Fib %v", fibFunc.name, k), func(b *testing.B) {
                for n := 0; n < b.N; n++ {
                    //                  b.StopTimer()
                    // reset the memo
                    memo = map[int]int{0: 0, 1: 1, 2: 1}
                    //                  b.StartTimer()
                    fibFunc.f(k)
                }
            })
        }
    }
}

事实上，基准测试工作并且输出是

nos (master) fibonacci $ go test -bench .
goos: linux
goarch: amd64
pkg: github.com/nosarthur/dynamicP/fibonacci
BenchmarkFib/recursive_Fib_10-4                  1000000              1256 ns/op
BenchmarkFib/recursive_Fib_100-4                  100000             18256 ns/op
BenchmarkFib/recursive_Fib_1000-4                  10000            206109 ns/op
BenchmarkFib/iterative_Fib_10-4                 10000000               218 ns/op
BenchmarkFib/iterative_Fib_100-4                 5000000               292 ns/op
BenchmarkFib/iterative_Fib_1000-4                2000000               881 ns/op
PASS
ok      github.com/nosarthur/dynamicP/fibonacci 12.208s

但是，我添加了 b.StopTime() 和 b.StartTime() 来排除重置备忘录的时间。取消注释这两行，基准测试挂起，部分输出为

nos (master *) fibonacci $ go test -bench .
goos: linux
goarch: amd64
pkg: github.com/nosarthur/dynamicP/fibonacci
BenchmarkFib/recursive_Fib_10-4                  1000000              2139 ns/op
BenchmarkFib/recursive_Fib_100-4                  100000             24775 ns/op
BenchmarkFib/recursive_Fib_1000-4                   5000            239197 ns/op
BenchmarkFib/iterative_Fib_10-4                 ^Csignal: interrupt
FAIL    github.com/nosarthur/dynamicP/fibonacci 269.067s

排除备忘录重置的正确方法是什么？我的go版本是1.10.1

Answer 1

发生的事情是你的函数真的很快，特别是在迭代函数的情况下，你的 map 重置(以及 StartTimer 和 StopTimer 函数本身与运行时统计分配)要慢得多。

所以发生的事情是，当您调用 StopTimer 时，它会将基准测试的内部跟踪持续时间设置为仅运行该函数所花费的时间。猜猜它如何估计在指定的基准时间内运行多少次迭代？是的，您猜对了 - 内部持续时间。

基本上，您的迭代函数运行大约需要 10 纳秒， map 重置大约需要 250 纳秒，定时器函数需要相当长的时间 - 但基准测试估计每次运行只需要 20 纳秒，并相应地设置迭代次数。

我的建议 - 在这种情况下不要使用 StartTimer/StopTimer 函数，只需将第三次运行添加到你的测试中，这是一个非操作 - 基本上:

{"baseline", func(int) int {return 0}},

然后只需从其他两组中减去该函数的时间，以估计有多少 ns/op 来自分配与函数本身。

这是我运行时的结果:

BenchmarkFib/baseline_Fib_10-2           5000000           357 ns/op
BenchmarkFib/baseline_Fib_100-2          5000000           327 ns/op
BenchmarkFib/baseline_Fib_1000-2         5000000           310 ns/op
BenchmarkFib/recursive_Fib_10-2          1000000          1659 ns/op
BenchmarkFib/recursive_Fib_100-2           50000         24898 ns/op
BenchmarkFib/recursive_Fib_1000-2           5000        301771 ns/op
BenchmarkFib/iterative_Fib_10-2          5000000           333 ns/op
BenchmarkFib/iterative_Fib_100-2         3000000           394 ns/op
BenchmarkFib/iterative_Fib_1000-2        1000000          1052 ns/op
PASS
ok      _/tmp/dynamicP/fibonacci    15.305s