python - 使用 urllib2 将大型二进制文件流式传输到文件

Question

我使用以下代码将大文件从 Internet 流式传输到本地文件:

fp = open(file, 'wb')
req = urllib2.urlopen(url)
for line in req:
    fp.write(line)
fp.close()

这可行，但下载速度很慢。有更快的方法吗？ (这些文件很大，所以我不想将它们保存在内存中。)

Answer 1

没有理由逐行工作(小块并且需要 Python 为您找到行尾!-)，只需将其分成更大的 block ，例如:

# from urllib2 import urlopen # Python 2
from urllib.request import urlopen # Python 3

response = urlopen(url)
CHUNK = 16 * 1024
with open(file, 'wb') as f:
    while True:
        chunk = response.read(CHUNK)
        if not chunk:
            break
        f.write(chunk)

对各种 CHUNK 大小进行一些实验，以找到满足您要求的“最佳位置”。