python - deepcopy 和 python - 避免使用它的技巧？

Question

我有一个非常简单的 Python 例程，它涉及循环遍历大约 20,000 个纬度、经度坐标的列表，并计算每个点到引用点的距离。

def compute_nearest_points( lat, lon, nPoints=5 ):
    """Find the nearest N points, given the input coordinates."""

    points = session.query(PointIndex).all()
    oldNearest = []
    newNearest = []
    for n in xrange(nPoints):
        oldNearest.append(PointDistance(None,None,None,99999.0,99999.0))
        newNearest.append(obj2)

    #This is almost certainly an inappropriate use of deepcopy
    #  but how SHOULD I be doing this?!?!
    for point in points:
        distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
        k = 0
        for p in oldNearest:
            if distance < p.distance:
                newNearest[k] = PointDistance(
                    point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
                    )
                break
            else:
                newNearest[k] = deepcopy(oldNearest[k])
            k += 1
        for j in range(k,nPoints-1):
            newNearest[j+1] = deepcopy(oldNearest[j])
        oldNearest = deepcopy(newNearest)

    #We're done, now print the result
    for point in oldNearest:
        print point.station, point.english, point.distance

    return

我最初是用 C 语言编写的，使用完全相同的方法，它在那里工作得很好，并且对于 nPoints<=100 基本上是瞬时的。所以我决定将它移植到 python，因为我想使用 SqlAlchemy 来做一些其他的事情。

我首先在没有 deepcopy 语句的情况下移植它，现在使该方法充满活力，这导致结果“奇怪”或部分不正确，因为一些点只是作为引用被复制(我猜？我认为？ ) -- 但它仍然几乎和 C 版本一样快。

现在添加了 deepcopy 调用后，例程可以正确地完成它的工作，但它会导致极大的性能损失，现在需要几秒钟才能完成相同的工作。

这似乎是一项很常见的工作，但我显然不是用 Pythonic 的方式来做的。我应该怎么做才能得到正确的结果，但不必在所有地方都包含 deepcopy？

编辑:
我想到了一个更简单、更快速的解决方案，

def compute_nearest_points2( lat, lon, nPoints=5 ):
    """Find the nearest N points, given the input coordinates."""

    points = session.query(PointIndex).all()
    nearest = []

    for point in points:
        distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
        nearest.append( 
            PointDistance(
                point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
                )
            )

    nearest_points = sorted(nearest, key=lambda point: point.distance)[:nPoints]     
    for item in nearest_points:
        print item.point, item.english, item.distance
    return

所以基本上我只是制作输入的完整副本并附加一个新值 - 与引用点的距离。然后我将“排序”应用于结果列表，指定排序键应该是 PointDistance 对象的距离属性。

这比使用 deepcopy 快得多，尽管我承认我不太明白为什么。我想这取决于高效的 C 实现 python 的“排序”？

Answer 1

好的，首先是最简单的事情:

1. deepcopy 通常很慢，因为它必须做大量的内部簿记工作来复制病态情况，例如以合理的方式包含自身的对象。参见，例如，this page ，或查看 Python 路径中某处的 copy.py 中的 deepcopy 的源代码。

2. sorted 速度很快，因为它是用 C 实现的。比 Python 中的等效排序快得多。

现在，正如您在评论中所问的，关于 Python 的引用计数行为的更多信息。在 Python 中，变量是引用。当你说 a=1 时，想想它有 1 作为一个独立存在的对象，而 a 只是附加到的标签它。在其他一些语言中，例如 C，变量是容器(不是标签)，当您执行 a=1 时，实际上是将 1 放入 a 中。这不适用于 Python，其中变量是引用。这会产生一些您可能也偶然发现的有趣结果:

>>> a = []      # construct a new list, attach a tag named "a" to it
>>> b = a       # attach a tag named "b" to the object which is tagged by "a"
>>> a.append(1) # append 1 to the list tagged by "a"
>>> print b     # print the list tagged by "b"
[1]

这种行为是可见的，因为列表是可变对象:您可以在创建列表后修改它，并且在通过引用它的任何变量访问列表时可以看到修改。列表的不可变等价物是元组:

>>> a = ()      # construct a new tuple, attach a tag named "a" to it
>>> b = a       # now "b" refers to the same empty tuple as "a"
>>> a += (1, 2) # appending some elements to the tuple
>>> print b
()

这里，a += (1, 2) 从 a 引用的现有元组加上另一个元组创建一个新元组(1, 2) 是动态构建的，a 被调整为指向新的元组，当然 b仍然指的是旧元组。对于简单的数字加法，如 a = a+2 也会发生同样的情况:在这种情况下，最初由 a 指向的数字不会以任何方式发生变化，Python“构造”一个新号码并移动 a 指向新号码。所以，简而言之:数字、字符串和元组是不可变的；列表、字典和集合是可变的。用户定义的类通常是可变的，除非您明确确保内部状态不能被改变。还有 frozenset，这是一个不可变的集合。当然还有很多其他的:)

我不知道为什么您的原始代码不起作用，但您可能遇到了与我在列表中显示的代码片段相关的行为，因为您的 PointDistance 类也是可变的默认。另一种方法是 collections 中的 namedtuple 类，它构造一个类似元组的对象，其字段也可以通过名称访问。例如，您可以这样做:

from collections import namedtuple
PointDistance = namedtuple("PointDistance", "point distance")

这会为您创建一个 PointDistance 类，它有两个命名字段:point 和 distance。在您的主 for 循环中，您可以适本地分配这些。由于 point 字段指向的点对象在 for 循环过程中不会被修改，并且 distance 是一个数字(根据定义，这是不可变的)，你这样做应该是安全的。但是，是的，一般来说，似乎简单地使用 sorted 会更快，因为 sorted 是在 C 中实现的。您可能还幸运地使用了 heapq模块，它实现了一个由普通 Python 列表支持的堆数据结构，因此它可以让您轻松找到前 k 元素，而无需对其他元素进行排序。然而，由于 heapq 也是用 Python 实现的，所以 sorted 很可能会工作得更好，除非你有很多点。

最后，我想补充一点，到目前为止我从未使用过deepcopy，所以我想在大多数情况下都有办法避免它。