json - 在 golang、JSON 与 gob 中深度复制对象的更快方法

Question

我正在使用 go 1.9。我想将对象的值深度复制到另一个对象中。我尝试使用 encoding/gob 和 encoding/json 来完成。但是gob编码比json编码要花更多的时间。我看到其他一些问题，例如 this他们建议 gob 编码应该更快。但我看到完全相反的行为。有人可以告诉我我做错了什么吗？或者比这两个更好更快的深度复制方法？我的对象的结构很复杂且嵌套。

测试代码:

package main

import (
    "bytes"
    "encoding/gob"
    "encoding/json"
    "log"
    "time"

    "strconv"
)

// Test ...
type Test struct {
    Prop1 int
    Prop2 string
}

// Clone deep-copies a to b
func Clone(a, b interface{}) {

    buff := new(bytes.Buffer)
    enc := gob.NewEncoder(buff)
    dec := gob.NewDecoder(buff)
    enc.Encode(a)
    dec.Decode(b)
}

// DeepCopy deepcopies a to b using json marshaling
func DeepCopy(a, b interface{}) {
    byt, _ := json.Marshal(a)
    json.Unmarshal(byt, b)
}

func main() {
    i := 0
    tClone := time.Duration(0)
    tCopy := time.Duration(0)
    end := 3000
    for {
        if i == end {
            break
        }

        r := Test{Prop1: i, Prop2: strconv.Itoa(i)}
        var rNew Test
        t0 := time.Now()
        Clone(r, &rNew)
        t2 := time.Now().Sub(t0)
        tClone += t2

        r2 := Test{Prop1: i, Prop2: strconv.Itoa(i)}
        var rNew2 Test
        t0 = time.Now()
        DeepCopy(&r2, &rNew2)
        t2 = time.Now().Sub(t0)
        tCopy += t2

        i++
    }
    log.Printf("Total items %+v, Clone avg. %+v, DeepCopy avg. %+v, Total Difference %+v\n", i, tClone/3000, tCopy/3000, (tClone - tCopy))
}

我得到以下输出:

Total items 3000, Clone avg. 30.883µs, DeepCopy avg. 6.747µs, Total Difference 72.409084ms

Answer 1

JSON 与 gob 区别

encoding/gob包需要传输类型定义:

The implementation compiles a custom codec for each data type in the stream and is most efficient when a single Encoder is used to transmit a stream of values, amortizing the cost of compilation.

当您“首先”序列化一个类型的值时，还必须包含/传输该类型的定义，这样解码器才能正确解释和解码流:

A stream of gobs is self-describing. Each data item in the stream is preceded by a specification of its type, expressed in terms of a small set of predefined types.

这里有详细的解释:Efficient Go serialization of struct to disk

因此，虽然在您的情况下每次都需要创建一个新的 gob 编码器和解码器，但它仍然是“瓶颈”，是导致速度变慢的部分。编码为 JSON 格式/从 JSON 格式解码，类型描述不包含在表示中。

为了证明这一点，做这个简单的改变:

type Test struct {
    Prop1 [1000]int
    Prop2 [1000]string
}

我们在这里所做的是将字段类型设为数组，将值“乘以”一千次，而类型信息实际上保持不变(数组中的所有元素都具有相同的类型)。像这样创造它们的值(value):

r := Test{Prop1: [1000]int{}, Prop2: [1000]string{}}

现在运行你的测试程序，在我的机器上输出:

原文:

2017/10/17 14:55:53 Total items 3000, Clone avg. 33.63µs, DeepCopy avg. 2.326µs, Total Difference 93.910918ms

修改版本:

2017/10/17 14:56:38 Total items 3000, Clone avg. 119.899µs, DeepCopy avg. 462.608µs, Total Difference -1.02812648s

如您所见，在原始版本中 JSON 速度更快，但在修改后的版本中 gob 变得更快，因为传输类型信息的成本被分摊了。

测试/基准方法

现在开始您的测试方法。这种衡量性能的方法很糟糕，会产生非常不准确的结果。相反，您应该使用 Go 的内置测试和基准测试工具。详情请阅读Order of the code and performance .

这些克隆的注意事项

这些方法与反射一起工作，因此只能“克隆”可通过反射访问的字段，即:导出。此外，他们通常不管理指针相等性。我的意思是，如果你在一个结构中有 2 个指针字段，都指向同一个对象(指针相等)，在编码和解码之后，你将得到 2 个不同的指针指向 2 个不同的值。在某些情况下，这甚至可能会导致问题。它们也不处理自引用结构，这充其量会返回一个错误，或者在错误的情况下导致无限循环或 goroutine 堆栈超出。

克隆的“正确”方式

考虑到上述注意事项，正确的克隆方法通常需要来自“内部”的帮助。也就是说，克隆特定类型通常只有在该类型(或该类型的包)提供此功能时才有可能。

是的，提供“手动”克隆功能并不方便，但另一方面，它将优于上述方法(甚至可能好几个数量级)，并且需要最少的“工作”内存克隆过程。